• 마이크로소프트 AI 엔지니어인 셰인 존스(Shane Jones)는 OpenAI의 기술로 구동되는 AI 이미지 생성기인 코파일럿 디자이너(Copilot Designer)의 안전 및 윤리 문제에 대해 우려를 표명했습니다.

• 존스(Jones)는 이 도구가 폭력적인 장면, 성적인 내용, 정치적 편견 등 불안하고 부적절한 이미지를 생성할 수 있다는 것을 발견했으며, 이는 마이크로소프트의 책임 있는 인공지능 원칙에 어긋납니다.

• 내부적으로 조사 결과를 보고했음에도 불구하고, 마이크로소프트는 이 제품을 시장에서 꺼리는 것을 꺼렸고, 존스는 연방거래위원회와 마이크로소프트 이사회에 서한을 보내 그의 우려를 더욱 증폭시켰습니다.

• 존스는 마이크로소프트가 공개를 추가하고 앱의 등급을 변경하여 성숙한 사용자에게만 적합하다는 것을 분명히 해야 한다고 주장합니다.

• 존스의 행동은 특히 다가오는 선거와 잘못된 정보의 확산과 관련하여, 생성적인 AI의 잠재적인 위험에 대한 대중의 논쟁이 증가하는 가운데 나왔습니다.

• 존스는 제품 피드백과 문제가 있는 결과물의 양을 해결하기 위해 새로운 보호 및 모델 재교육에 대한 실질적인 투자가 필요하다고 강조합니다.

• Copilot Designer의 Android 앱은 정치적 편견, 미성년자 음주 및 음모론을 포함한 다양한 범주에서 해로운 이미지를 만들 수 있음에도 불구하고 현재 "E for Everyone" 등급을 유지하고 있습니다.