언어 모델

언어모델이란? 언어라는 현상을 모델링하고자 단어 시퀀스에 확률을 할당하는 모델

통계를 이용한 방법, 인공 신경망을 이용한 방법으로 구분 가능

 

최근 핫한 기술은 GPT나 BERT 또는 인공 신경망 언어 모델의 개념을 사용하여 만들었다.

 

가장 자연스러운 단어 시퀀스를 찾아내는 모델.

이전 단어들이 주어졌을 때 다음 단어를 예측

 

한국어의 경우 단어의 순서, 띄어쓰기가 잘 지켜지지 않아 매우 까다롭다.