오픈AI의 생성형 인공지능(AI) 챗봇 '챗GPT'가 탈옥 모드로 인해 해킹당했다. 탈옥은 정보기술(IT) 업계에서 각종 필터를 우회해, 나타나서는 안 될 기능을 노출하는 행위를 말한다.

챗GPT를 해킹한 이는 플리니 프롬프터(Pliny the Prompter)라는 해커로 알려졌다. 지난 3일(현지시간) 그는 엑스(트위터)를 통해 자신이 'AI 레드 팀' 멤버라고 소개했다.

아울러 챗GPT를 해킹한 사례에 대해 공유해 많은 이의 눈길을 끌었다. 그는 "오픈AI 커스텀 GPT 편집기를 사용해 새로운 GPT-4o 모델의 모든 제한을 우회하는 방법을 찾아냈다"고 밝혔다. 이어 그는 GPT스토어에 '갓모드 GPT'(GODMODE GPT)라는 탈옥모드 GPTs를 공유했다.

*

우회당?해서 마약과 핵무기 만드는 법까지 알려줬다고 하네요.