소식 인스타그램의 AI 이미지, 메타 챗봇 계획: 사생활 침해 및 잘못된 정보 확산 우려
- BarryWhite
- 조회 수 163
- 2023.08.01. 23:18
메타는 인스타그램의 인공지능 이미지와 사용자로부터 더 많은 개인 데이터를 수집하는 것을 목표로 하는 챗봇을 통해 인공지능에 본격적으로 뛰어들 계획인 것 같습니다....
인스타그램의 인공지능 이미지
개발자이자 리버스 엔지니어인 알레산드로 팔루찌는 인스타그램 앱에서 AI 이미지에 라벨을 붙이는 코드를 발견했습니다.
"제작자 또는 메타는 이 콘텐츠가 Al과 함께 만들거나 편집했다고 말했습니다."
"메타 알이 생성한 이미지"
"생성형 Al이란 무엇인가요?"
"사람들은 Al 도구를 사용하여 단일 설명에서 텍스트, 이미지 및 동영상을 생성합니다."
"게시물에 Al이 사용되었는지 확인하는 방법"
"Al로 생성된 콘텐츠에는 일반적으로 쉽게 식별할 수 있도록 레이블이 지정되어 있습니다."
메타는 엔가젯에 이와 관련한 논평을 거부했습니다. 그러나 마크 저커버그 CEO는 지난주 실적 발표에서 몇 가지 중요한 힌트를 남겼습니다.
"콘텐츠를 더 쉽고 재미있게 공유할 수 있는 크리에이티브 도구, 어시스턴트, 코치 역할을 하거나 비즈니스 및 크리에이터와 소통할 수 있도록 도와주는 에이전트 등 AI가 Facebook 앱에서 사람들이 서로 연결하고 자신을 표현하는 데 도움을 줄 수 있는 다양한 방법을 상상해볼 수 있을 것입니다."
메타 챗봇
주커버그는 특히 챗봇(일명 '비서 역할을 하는 에이전트')을 기대할 수 있다는 점을 분명히 밝혔는데, 자세한 내용은 파이낸셜 타임즈에서 확인할 수 있습니다.
"이 계획에 대해 잘 아는 세 사람은 직원들이 "페르소나"라고 부르는 챗봇 중 일부는 다양한 캐릭터의 형태를 취한다고 말했습니다. 이 계획에 대해 잘 아는 사람에 따르면, 에어비앤비는 에이브러햄 링컨처럼 말하는 챗봇과 서퍼 스타일로 여행 옵션에 대해 조언하는 챗봇 출시를 검토하고 있다고 합니다."
이 중 첫 번째 캐릭터는 9월에 출시될 예정이라고 합니다.
챗봇의 개인정보 보호와 잘못된 정보에 대한 우려
챗봇이 재미있게 들릴지 모르지만, 전문가들은 챗봇이 사용자에 대한 더 많은 개인 데이터를 수집하여 더 개인화된 광고를 제공하기 위해 사용될 가능성이 높다고 말합니다.
피츠버그 대학교의 AI 윤리 고문이자 협업 AI 책임 연구소의 공동 설립자인 라빗 도탄:
"사용자가 챗봇과 상호작용하면 챗봇은 실제로 훨씬 더 많은 데이터를 회사에 노출하고, 회사는 그 데이터로 원하는 모든 것을 할 수 있습니다."
"메타는 챗봇을 관리하는 전문가들로부터 편견의 징후나 '환각'으로 알려진 위험한 자료나 잘못된 정보를 공유할 위험에 대해 면밀한 조사를 받게 될 것입니다."
또 다른 우려는 생성형 AI 챗봇이 가짜 사실을 만들어내고 사람들이 이를 진짜로 받아들이는 현상으로 알려져 있습니다.
실제로 이 회사에서 만든 이전 봇들은 잘못된 정보를 빠르게 퍼뜨리기 시작했습니다.