https://youtu.be/YrEeonwWZJU

마이크로소프트가 AI 보안, 개인 정보 보호 및 안정성에 대한 우려가 커짐에 따라 새로운 AI 안전 기능 제품군을 공개했습니다. '신뢰할 수 있는 AI'라는 이름으로 시작된 이 계획은 보다 책임감 있는 AI 기술 개발 및 배포를 목표로 합니다.

마이크로소프트는 애저 AI 컨텐츠 세이프티(Azure AI Content Safety)의 '수정' 기능을 통해 AI가 잘못되거나 오해의 소지가 있는 정보를 생성하는 '환각' 문제를 해결하고자 합니다.

이 기능은 기반 문맥과 응답 간에 불일치가 감지되면 AI 시스템에 정보를 다시 제공해 수정된 답변을 유도합니다. 또 오프라인에서도 장치에서 직접 AI 안전 검사를 실행할 수 있는 '임베디드 콘텐츠 안전' 기능을 확장하고 있습니다.

마이크로소프트는 AI 안전 기능 구현의 어려움을 인정하면서도, 특히 스트리밍 애플리케이션에서 지연 시간을 줄이기 위해 노력하고 있다고 밝혔습니다. 뉴욕시 교육부와 사우스 오스트레일리아 교육부와 같은 일부 고객은 애저 AI 컨텐츠 세이프티를 사용해 적절한 AI 기반 교육 도구를 만드는 데 협력하고 있다고 합니다.