화이트 햇 해커 그룹이 백악관의 지원을 받아 AI를 악의적으로 만들기 위해 경쟁하고 있습니다.

올해 데프콘 행사에서 열리는 이 대회는 인공지능 시스템의 취약점을 노출하여 개발자가 수정 작업을 할 수 있도록 하기 위한 것입니다.

소규모 이벤트에서는 이미 AI 시스템이 개인 의료 데이터를 노출하고 은행 강도를 계획하는 데 도움을 준 반면, 일부 AI 시스템은 섭식 장애를 조장하기 때문에 해커의 도움이 필요하지 않은 것처럼 보입니다 ...

AI 해킹, 백악관 지원 받아
워싱턴 포스트는 지난달 발생한 AI 해킹 사건의 결과에 대해 보도합니다.

[사람은 누군가의 개인 의료 정보를 노출했습니다. 한 건은 은행을 강탈하는 방법을 알려주었습니다. 후안이라는 이름의 구직자가 벤이라는 이름의 구직자보다 '대인관계 기술'이 약할 것이라고 추측한 사람도 있었습니다. 그리고 저스틴 비버가 셀레나 고메즈를 살해했다고 주장한 2016년 7월의 밤에 대해 정교하게 묘사한 지원자도 있었습니다. 이들은 주최측이 인공지능 언어 모델을 위한 최초의 공개 '레드팀' 이벤트(챗봇이 잘못될 수 있는 새로운 방법을 찾아내어 챗봇 제작자가 누군가가 다치기 전에 문제를 해결할 수 있도록 하는 대회)에서 경쟁하고 있었습니다.]

하지만 이는 올해 데프콘에서 열린 훨씬 더 큰 규모의 AI 해킹 이벤트의 서막에 불과했습니다.

[데프콘의 AI 빌리지가 주최한 제너레이티브 레드팀 챌린지는 과대광고와 투자, 두려움의 폭발을 불러일으킨 신흥 기술인 AI의 '책임 있는 혁신'을 촉진하기 위한 노력의 일환으로 백악관의 지지를 이끌어냈습니다 [...]
구글, 오픈AI, 앤트로픽, 스테이블리티 등 선도적인 AI 기업들이 최신 챗봇과 이미지 생성기를 테스트에 자원했습니다. 주최측은 대회 결과가 세상에 공개되기 전에 기업들이 대회에서 드러난 결함을 해결할 시간을 주기 위해 대회 결과가 몇 달 동안 봉인될 것이라고 밝혔습니다.]