트랜스포머코드스터디2 NLP 트랜스포머 코드 스터디 리뷰 common_layers.py 안녕하세요 블레이즈 테크노트 블레이즈 입니다. Attention is all you need 가 구글에서 발표한 논문인만큼 이 논문에서 사용된 코드가 tensorflow 공식으로 등록되어 있습니다. 아래는 그 코드의 내용입니다. https://github.com/tensorflow/tensor2tensor GitHub - tensorflow/tensor2tensor: Library of deep learning models and datasets designed to make deep learning more accessible a Library of deep learning models and datasets designed to make deep learning more accessible and a.. 2023. 8. 28. NLP 트랜스포머 코드 스터디 리뷰 (2) transformer.py 안녕하세요 블레이즈 테크노트 블레이즈 입니다. 지난 포스팅에서 Attention is all you need 논문의 코드 중 transformer.py 의 앞부분을 살펴봤습니다. 이번 포스팅에서는 transformer.py의 뒷부분을 살펴보도록 하겠습니다. 원 코드는 아래의 링크를 통해 확인해보세요. https://github.com/tensorflow/tensor2tensor/blob/master/tensor2tensor/models/transformer.py @registry.register_model class TransformerScorer(Transformer): """Transformer model, but only scores in PREDICT mode. Checkpoints between.. 2023. 8. 19. 이전 1 다음
