AI 흑인용 챗GPT 등장…인종 다양성 품는 인공지능
- BarryWhite
- 조회 수 735
- 2024.06.17. 16:56
https://www.digitaltoday.co.kr/news/articleView.html?idxno=521526
흑인들을 위한 맞춤형 인공지능(AI) 챗봇이 등장하고 있다. 흑인들이 AI 모델의 문화적 편견을 극복하기 위한 노력에 박차를 가하면서다.
16일(이하 현지시간) IT매체 테크크런치에 따르면 현재 오픈AI의 챗GPT는 유럽 중심적인 학습으로 인해 서구적인 편향성을 보인다는 일부 지적이 있다. 따라서 특정 커뮤니티를 대상으로 하는 특정 질문에 대해 너무 일반화된 답변을 제공한다는 문제가 있다.
챗GPT 외에 대부분의 AI 모델도 마찬가지다. 모두 유색인종을 염두에 두고 구축되지는 않았기 때문에 특히 흑인들 가운데서는 이에 대한 불만이 높다. 이에 대응해 흑인 창업자들은 유색인종에 특화된 AI 모델을 개발하고 있다.
*
......저는 굳이? 싶네요.
언어도 딱 잘라서 말할 수 없는데요...?
쉽게 이해할 수 있도록 예시를 들어 드릴게요.
전라도 사투리와 경상도 사투리의 구분은 어떤 지점을 경계로 명확하게 되나요? 도의 경계를 넘으면 바뀌나요? 아니잖아요. 언어, 인종, 모두 인위적인 구분이고 거대한 스펙트럼일 뿐입니다. 보통 우리가 '문화'라고 하는 것은 속칭 인종과 언어에 기반한 경우가 꽤나 있고요. 이런 상황에서 인종적인 구분에 의한 언어모델 제작이 무의미한가요? 애초에 그 '인종'에 따라 사용하는 어휘도 바뀌는데요.
하하하 언어도 엄밀히 따지면 방언 연속체와 같이 구분이 애매한 경우가 있지만 국가라는 인위적이고 정치적인 틀이 있어서 언어적 구별에 대해서 논란은 거의 없죠. 같은 중국어임에도 번체(대만, 홍콩, 마카오)와 간체(대륙)으로 나뉘는것 처럼 말이죠.
그리고 그런식으로 자꾸 말꼬리 잡고 들어 가실거면 모든 언어의 모든 인종의 그것도 사투리까지 나눠놓은 AI까지 만들어야 한다는 식으로 가시는건데 정말 그게 맞다고 생각하세요?
예를 들어서 한국에사는 흑인인 조나단은 전라도에 살았기 때문에 전라도 사투리가 묻어나오는 말을 사용하죠. 그러니까 그런식으로 전라도 사투리를 사용하는 흑인이라는 설정의 AI도 있어야 하겠죠?
한국은 강력한 표준어 사용 정책으로 방언이 약화되기도 했고 애초에 지리적으로 좁으니 방언간 차이가 미약하죠. 문화적 차이도 작은 편이고요. 옆동네 중국만 가도 방언간 차이가 크고 다양한 언어들이 존재하지 않나요? 그리고 애초에 왜 만드냐? 고 하면 그 사람들이 필요하니까 만든다는 이야기밖에 할 수가 없습니다. 자기네들이 필요해서 만든다는데 왈가왈부할 이유를 모르겠고 댓글에 보이는 증오섞인 반응도 이유를 모르겠네요. 단순히 인위적인 분류에 의한 집단들이 각자 필요한거 만드는 행위일 뿐인데요.
방언 간 차이가 미약하다고 말하는 건, 사실 우리나라 방언을 좀 무시하는 처사같습니다.
전라도-경상도는 물론이고 충청-전라/경상-서울을 놓고 비교하면 차이는 생각보다 큽니다.
제주까지 놓으면 거의 다른 말이 되고요.
본인들의 필요에 의해 만드는 걸 뭐라 할 필요는 없죠.
다만, 저 개인적으로는 챗봇의 역할을 놓고 봤을 때 굳이? 싶다는 겁니다.
챗봇이 특정 언어나 문화를 기반으로 만들어지는 건, 그래야 더 '효율성'과 '정확성'이 오르기 때문입니다.
특정 인종이나 문화를 올려치고 내려치기 위함이 아니죠.
다른 분들이 지적하는 건 이런 부분이라고 사료됩니다.
레오나르도 다빈치나 미켈란젤로 급 예술가가 단지 유럽인이라서 유명한 걸까요?
제가 보기엔 충분히 인류 문화의 대표 자격을 가진 인물들이라서 언급되는 것 같습니다.
그걸 부정하는 건 그냥 본인 인종/문화가 무시당한다는 생각과 이런 현실에 대한 부정으로 보이고요.
말씀하신 거 쭉 읽어봤는데
다들 흑인을 위한? 흑인문화를 위한? AI 만드는 거에 대해 뭐라 하는 게 아닙니다.
저걸 가지고 포용성과 다양성이라는 대의명분을 붙이는 게 웃기는 거죠.
하나의 모델이 여러 인종과 문화, 언어를 다 할 수 있는게 포용력인거지, 각각 자기마다 자기들의 언어 AI를 만드는 건 그냥 말씀하신 것처럼 자기들 필요에 의해 개별 AI를 개발하는 겁니다.
자기들의 문화와 언어를 담아놓는 AI 만드는거 아무도 뭐라고 안 해요. 그런데 거기에다 같잖은 대의명분 가져다가 발라놓지 말라는 거죠.
미국 기준 제3시민인 아시안 입장에선 꼴받습니다.
본문 읽어보셨나요?
존 파스모어는 "챗GPT에게 우리 문화에서 가장 중요한 예술가가 누구냐고 묻는다면 레오나르도 다빈치나 미켈란젤로를 꼽을 것"이라며 "이 모델은 유럽 역사의 궤적에 초점을 맞춘 편견을 가지고 있기 때문에 인도나 중국, 아프리카, 심지어 아프리카계 미국인에 대해서는 언급하지 않을 것"이라고 지적했다.
이 대목만 봐도 그런 이야기는 하기 힘드실텐데요. 그리고 챗gpt는 온라인상의 자료 수집에 치중하기 때문에 구두나 인쇄물에 많은 자료가 남은 아프리카계 미국인의 언어생활을 잘 반영하지 못하기 때문에 그런걸 갈무리한 언어모델을 만든다는 내용입니다. 과거에 계속 해왔던 소수 언어/문화 아카이빙 프로젝트와 별로 다를게 없어요;
그리고 미국 기준 3시민이라 하셨는데 그러면 프랑스 기준 3시민인 북아프리카계 프랑스인들은 프랑스어 강요에 반발하여 지역언어 다양성을 추구하는 오크어 활동가들한테 똑같은 말을 할 수도 있겠네요. 궤변이죠. 하나의 모델이 모든 언어와 문화를 포용해야 한다는 것이야말로 폭력입니다. 그런 논리면 챗gpt 외에 다른 언어모델은 다 폐업하고 전인류가 오픈ai에 모여서 개발해야죠. 현실적으로 그게 불가능하고 말도 안되니 각자가 필요한 걸 만드는 겁니다.
제 댓글 읽어보셨나요.... 누가 모델 만드는 걸로 뭐라 하냐고요. 자기들을 위한 모델을 만드는 걸 다양성으로 말하는 게 어이가 없는거죠.
개별 문화에 대한 노력 자체는 다양성이 아닙니다. 그러한 노력을 존중해주고 지원해주고 장려되는 사회를 만드는 게 다양성이죠.
'이러한 활동을 통해 얻은 노하우를 공개해 여러 문화권을 위한 언어모델을 만드는 데 기여하겠다'라고 하면 그게 다양성이겠죠.
기사의 제목을 다시 보세요.
"흑인용 챗GPT 등장…인종 다양성 품는 인공지능"
흑인용 -> 다양성 이라는 흐름에 다들 어이없어 하는 겁니다.
"다양한 문화권의 정보를 담는 여러 모델 등장"이라면 '인종 다양성'이라는 단어를 뒤에 붙여도 납득이 가겠죠.
지금 폭력은
서구계의 현 흐름인 '다양성'에서
아시아계 사람과 문화는 의도적으로 배제되는 경우가 다반사인 상황에 분노하는 사람들의 의도를 읽지 못하고
그들의 의도를 혐오와 폭력, 궤변으로 라벨링하는 선생님이 하시는 거라고 생각합니다.
보존하지 말라고 안했습니다. 다만 개개별의 보존은 다양성으로 가는 과정의 일부이지, 그 자체가 다양성인 것은 아니라는 것이지요.
다양성은 그런 개개별의 과정들을 존중하고 촉진시키고 사회적인 자원을 소모할 수 있는 역량을 기르는 것이라고 저는 생각합니다. 그런 부분에 대한 노력 없이 개별의 문화 보존 노력 그 자체를 다양성을 위해 노력과 동일시할 수는 없다고 생각합니다. 특히나 다른 소수자의 관점에서 보았을 때는요.
(자기들의 문화를 보존하려는 노력만 하고 남들의 문화를 보존하려는 노력에 대해서는 하나도 관심이 없다면 그걸 과연 다양성이라고 할 수 있을까요? 저는 그것을 다양성이라고 생각하지 않고, 그냥 집단 항상성 유지를 위한 노력이라고 봅니다.)
이런 저의 생각과 다르시다면 저는 존중하겠습니다. 이 이상의 의견 차이는 무의미한 소모라고 생각해서요.
저는 선생님의 입장도 무엇인지 대화를 통해 충분히 알았고, 이해가 가고 존중합니다. 다만 또 다른 소수자의 입장에서 동의할 수 없는 부분이 있어 말씀드린 것이었습니다.
한 마디만 하자면, 남의 생각을 '왜곡' '폭력' 등의 단어로 정의하는 것은 건설적 대화를 위해 도움이 되지 않을 뿐더러, 생각의 범위를 제한하고 틀을 만들 뿐임을 알려드리고 싶습니다.
좋은 밤 되시길 바랍니다.
인종 다양성이 늘어났습니다!
(어느 한 피부색을 가진 인종에만 특화된 인공지능을 만들며)