2018년 구글이 BERT라는 언어모델을 출시하여, AI가 언어를 이해하는 데 큰 성장을 가져왔다. 뒤이어, 올해 마이크로소프트와 OpenAI 회사가 합작으로 GPT3라는 새로운 언어모델을 출시하였다. 이 모델은 뉴스 기사를 인간처럼 생성할 수 있었고, 이 분야 많은 연구자들이 해당 모델의 성능에 감탄하여 향후 응용발전에 큰 기대를 걸고 있다. 이 리포트는 현재 AI 언어모델의 발전이 어느정도이며, 이로 인해 향후 AI가 어느정도 인간 언어를 이해하고, 인간 언어를 생성해낼지에 대한 기대치를 짚어보고자 한다.