https://www.digitaltoday.co.kr/news/articleView.html?idxno=522195

대규모 언어 모델(LLM)이 잘못된 정보를 제공하거나 거짓 정보를 만들어내는 이유에 대한 연구가 진행됐다고 20일(현지시간) IT매체 아스테크니카가 전했다.

LLM이 정답을 알지 못할 때 부정확한 내용을 지어내는 것을 '작화증'(confabulation)이라고 한다. 미국 옥스퍼드 대학교 연구진에 따르면 LLM에 작화증이 일어나는 이유는 정확성을 학습하지 않기 때문이다. LLM은 단순히 방대한 양의 텍스트를 학습하고 이를 통해 인간처럼 보이는 문구를 생성하는 방법을 배운다.

*

'거짓말'이라기 보다는 부정확한 게 맞겠죠. 사실.