[CS224N] Lecture 7 - Translation, Seq2Seq, Attention (수정 중)

CS224N의 8번째 강의, 에 대한 내용이다. 해당 강의는 여기에서 직접 들을 수 있다.

잘못된 내용, 궁금한 점, 피드백 모두 환영입니다 :)

 

주요 내용 :

# Machine Translation

Machine Translation은 다양한 NLP task 중 하나이다. Machine Translation은 원문 언어로 된 텍스트 x 를 결과 언어로 된 텍스트 y로 제공하는 문제이다. Neural Network를 해당 task에 적용하기 전에 다양한 시도들이 있었다. 1950 년대에는 규칙을 기반으로 번역을 진행하기도 했다. 이후, 1990 ~ 2010 년대에 걸쳐서 통계를 활용한 Statistical Machine Translation의 발전이 이루어졌다. 

# Statistical Machine Translation (SMT)

Statistical Machine Translation (SMT)는 통계 정보를 이용한다. 예를 들어, 영어로 제공된 원문 x 가 있을 때, SMT는 x 가 주어졌을 때, 가장 높은 확률을 제공하는 텍스트 y를 예측하게 된다.