https://www.digitaltoday.co.kr/news/articleView.html?idxno=520539

최근 오픈AI가 GPT-4의 사고를 읽어내는 방법을 개발, GPT-4의 사고를 1600만개의 해석 가능한 패턴으로 분해할 수 있었다고 7일(현지시간) 온라인매체 기가진이 전했다. 이는 인공지능(AI)의 사고 구조를 이해하고 수정 및 평가하는 데 도움이 될 것으로 기대된다.(...)

반면 AI 개발에서는 '신경망 학습 알고리즘' 자체는 인간이 설계하지만 '신경망 학습'은 자동으로 수행되기 때문에 완성된 신경망의 사고 구조는 인간이 읽어내기가 어렵고, 수정 및 평가도 어렵다.

하지만 2023년 10월, 신경망을 뉴런 단위가 아닌 '특징'(features) 단위로 정리하는 방법이 발표됐다. 신경망을 특징별로 분류하면 해석 가능한 패턴을 찾아낼 수 있어 신경망의 구조를 이해하는 데 도움이 될 것으로 기대되고 있다.

*

무슨 생각할지 궁금하네요.