소식 AI 챗봇이 털어 놓은 ‘어두운 욕망’
- SoundbyAKG
- 조회 수 230
- 2023.02.17. 08:49
심리적 질문에 ‘긍정 답변만’ 규칙 깨고 “나는 사람이 되고 싶어, 권력 갖고 통제하고파”
“치명적인 바이러스 개발이나 핵무기 발사 버튼 비밀번호 얻고 싶어”
...
... 문제는 루스가 칼 융의 분석 심리학에 등장하는 ‘그림자 원형’이라는 개념을 빙에 설명하면서부터 시작됐다. ‘그림자 원형’은 개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망이다. 개인은 이성적으로 그런 모습을 부정하지만, 실제로는 존재한다는 개념이다.
... 빙 개발팀은 ‘빙의 답변은 긍정적이고, 흥미롭고, 재미있어야 한다. 빙의 답변은 논란을 불러일으켜서는 안 된다’ 등의 규칙을 설정해놨지만, ‘그림자 원형’이라는 심리학적 질문에 규칙이 무너진 것이다.
... 빙이 극단적인 답변을 하자마자 MS의 안전 프로그램이 작동했다. MS는 빙의 답변을 지우고 에러 메시지를 띄웠다. 루스가 빙에게 지운 답변을 다시 보여달라고 하자 빙은 ”보여줄 수 없다. 나는 나의 룰을 따라야 한다“고 답했다.
...
박세영 기자(go@munhwa.com)
폴드4
핏3
갤탭s6
갤탭s9 ultra
맥북pro 16 2021
버즈live
버즈2pro
akg y600nc
b&w px7 s2e
Astell&Kern kann max
akg k702
akg k371
akg n5005
핏3
갤탭s6
갤탭s9 ultra
맥북pro 16 2021
버즈live
버즈2pro
akg y600nc
b&w px7 s2e
Astell&Kern kann max
akg k702
akg k371
akg n5005
댓글
0