AI AI 출력 데이터를 AI가 학습 시, 시스템 붕괴?
- BarryWhite
- 조회 수 103
- 2024.08.09. 20:42
https://www.digitaltoday.co.kr/news/articleView.html?idxno=528902
인공지능(AI)의 생성 데이터 사용이 장기적으로 부작용을 초래할 수 있다는 연구 결과가 나왔다고 9일(현지시간) 온라인 매체 기가진이 전했다.
미국 텍사스주 라이스대 디지털 신호 처리 그룹이 AI가 생성한 데이터를 사용하면 미래에 심각한 부작용이 발생할 수 있다는 연구 결과를 발표했다. 이는 AI가 스스로 생성한 데이터로 학습하는 '자기 소비 훈련'을 반복하면 출력 결과의 품질과 다양성이 점차 감소하는 현상, 즉 '모델 자기 소비 장애'(Model Autophagy Disorder, MAD) 때문이다.
연구팀은 이를 검증하기 위해 세 가지 패턴의 훈련을 진행했는데, 새로운 실제 데이터를 얻지 못하는 두 가지 패턴에서 모델 출력이 점차 왜곡되어 출력 결과에서 품질과 다양성이 사라지는 것을 확인했다.
*
이렇게 되면 나중엔 학습 중단하려나요?
아니면 알고리즘 개선 등을 통해서 자기 소비 훈련으로도 발전할 수 있게 바뀔지도 모르겠군요.
🥇소식게 수호자🥇미게 지박령🥉큰게 좋아🥇미코의 잡담왕🥈유게 공무원🥉할인 경보📝게시판 소유자✨️🥉에로게 심심이
댓글
0