https://www.digitaltoday.co.kr/news/articleView.html?idxno=528902

인공지능(AI)의 생성 데이터 사용이 장기적으로 부작용을 초래할 수 있다는 연구 결과가 나왔다고 9일(현지시간) 온라인 매체 기가진이 전했다.

미국 텍사스주 라이스대 디지털 신호 처리 그룹이 AI가 생성한 데이터를 사용하면 미래에 심각한 부작용이 발생할 수 있다는 연구 결과를 발표했다. 이는 AI가 스스로 생성한 데이터로 학습하는 '자기 소비 훈련'을 반복하면 출력 결과의 품질과 다양성이 점차 감소하는 현상, 즉 '모델 자기 소비 장애'(Model Autophagy Disorder, MAD) 때문이다.

연구팀은 이를 검증하기 위해 세 가지 패턴의 훈련을 진행했는데, 새로운 실제 데이터를 얻지 못하는 두 가지 패턴에서 모델 출력이 점차 왜곡되어 출력 결과에서 품질과 다양성이 사라지는 것을 확인했다.

*

이렇게 되면 나중엔 학습 중단하려나요?

아니면 알고리즘 개선 등을 통해서 자기 소비 훈련으로도 발전할 수 있게 바뀔지도 모르겠군요.