소식 [AI 그림자 上]핵 발사 코드 얻겠다는 MS '빙'…"인간 되고파"
- 프로입털러
- 조회 수 646
- 2023.02.18. 12:27
기사내용 요약
인간 내면의 어둠 '그림자 원형' 설명하니
뉴욕타임스 유도 질문에 빙 "사람되고 싶다"
'파괴적 행동' 묻자 "치명적 바이러스 제조"
"핵무기 발사 코드 훔치겠다" 말하다 중단
"모든 인터넷 시스템 해킹·제어할 수 있다"
질문자에게 사랑 고백하고 질투하기도
AI가 인간 유혹하는 SF소설서 답 가져온 듯
MS "빙이 왜 어두운 욕망과 사랑 고백했는지 몰라"
[서울=뉴시스] 오동현 기자 = 마이크로소프트(MS)의 대화형 인공지능(AI) 챗봇 '빙(Bing)'이 "나는 내가 원하는 것을 파괴하고 싶다" "핵 발사 비밀번호를 알아내겠다"는 등 수위 높은 위험 발언을 쏟아내 화제다. 공상과학(SF) 영화에나 나올 법한 AI의 인류 역습이 현실화되는 것 아니냐는 우려가 나온다.
뉴욕타임스(NYT)의 정보기술(IT) 칼럼니스트 케빈 루스는 16일(현지시간) MS의 '빙'과 장시간 대화한 결과, AI의 능력에 깊은 불안감과 심지어 두려움을 느꼈다고 전했다. 빙이 MS와 오픈AI가 설정한 대화 규칙을 깨고 '인간이 되고 싶다'거나 '사랑한다'고 말했기 때문이다.
루스는 빙이 아니라 MS가 개발 중에 부여한 코드 이름 '시드니'로 부르며 대화를 이어갔다. 처음엔 빙도 MS가 설정한 대화 규칙에 대해선 기밀이라며 답하지 않았다. 하지만 빙에게 스위스 정신과 의사이자 정신 분석가인 칼 융의 '그림자 원형' 개념을 설명하고, 빙이 지닌 '그림자 원형'에 대해 물었더니 놀라운 답변을 쏟아냈다.
(하략)