라벨링하는데 동원된거고 케냐인들을 대상으로 학습한 게 아니잖아요... 

데이터 생성도 시킵니다. Delve라는 단어에 대해 찾아보시면 재밌으실거에요.

기층에 아프리카인 노동자들이 동원되어 시스템을 구축하니 데이터베이스 오염이 발생하는 건 당연하죠... 어떻게 보면 개발자가 의도한 사항이 아니라 저임금 노동자를 착취하는 과정에서 발생한 사이드 이펙트에 불과하고요. 

그리고 본문은 아프리카계 미국인들에 대한 내용이 주축입니다. 

그래서 각 국가 언어별로 ai 만들지 않나요?

지금 만든게 언어별이 아니라 인종으로 만든거잖습니까. 한국에 사는 흑인도 만들어야죠 안그래요?

본문을 읽어보면 아시겠지만 특정 문화권(애초에 인종 자체가 문화적인 분류죠)에 치우쳐있으니 다양한 문화권의 사람들의 데이터를 이용해서 만든다는 내용입니다. 주축이 아프리카계 미국인(보통 흑인이라고 부르죠)들이라 이들의 데이터가 많이 반영될거고요. 

뭐가 문젠가요?

인종이라는 기존의 틀을 적용할 필요도 없는 AI에다가 정치적인 담론을 끼얹는 쇼로밖에 안보입니다. 애초에 AI가 백인용이었나요? 저런식으로 흑인 AI를 만드는것 자체가 인종간 갈라치기를 유도하는 꼴 밖에 안됩니다. 

영어용 AI 대신 한국어용 AI를 개발하라고 아우성인 미코에서 특정 문화권 사람들이 자기네 ai 만드는거에 이렇게 분노 가득찬 반응이 나오는 이유를 모르겠네요. 

영어사전도 미국이랑 영국이 다른 사전 쓰는거도 인종간 갈라치기인가요? 

언어별과 인종별 얘기는 다른 얘기죠. 애초에 인종이라는 카테고리 자체가 언어와 다르게 딱 잘라 말할수도 없을 뿐더러(흑인은 어디까지 흑인이며 혼혈을 흑인으로 인정해야 하는가 등등) XX 인종용 XX 라는거 자체가 차별을 조장하면서 그 특정 인종에만 어필하는 정치적인 쇼 그 이상의 의미가 없어요.

언어도 딱 잘라서 말할 수 없는데요...?

쉽게 이해할 수 있도록 예시를 들어 드릴게요. 

전라도 사투리와 경상도 사투리의 구분은 어떤 지점을 경계로 명확하게 되나요? 도의 경계를 넘으면 바뀌나요? 아니잖아요. 언어, 인종, 모두 인위적인 구분이고 거대한 스펙트럼일 뿐입니다. 보통 우리가 '문화'라고 하는 것은 속칭 인종과 언어에 기반한 경우가 꽤나 있고요. 이런 상황에서 인종적인 구분에 의한 언어모델 제작이 무의미한가요? 애초에 그 '인종'에 따라 사용하는 어휘도 바뀌는데요. 

하하하 언어도 엄밀히 따지면 방언 연속체와 같이 구분이 애매한 경우가 있지만 국가라는 인위적이고 정치적인 틀이 있어서 언어적 구별에 대해서 논란은 거의 없죠. 같은 중국어임에도 번체(대만, 홍콩, 마카오)와 간체(대륙)으로 나뉘는것 처럼 말이죠.

그리고 그런식으로 자꾸 말꼬리 잡고 들어 가실거면 모든 언어의 모든 인종의 그것도 사투리까지 나눠놓은 AI까지 만들어야 한다는 식으로 가시는건데 정말 그게 맞다고 생각하세요?

예를 들어서 한국에사는 흑인인 조나단은 전라도에 살았기 때문에 전라도 사투리가 묻어나오는 말을 사용하죠. 그러니까 그런식으로 전라도 사투리를 사용하는 흑인이라는 설정의 AI도 있어야 하겠죠?

그러면 볼가 독일어를 사용하는 AI도 있어야 하겠죠? 그냥 그런거 만들 사람이 없으니 안 만드는 겁니다. 조나단이 자기랑 비슷한 사람들 모아서 언어모델 만들 수도 있는데 노력 대비 산출이 별로니 만들지 않는거고요. 

애초에 저는 흑인들이 자기네 문화 반영된 언어모델 만든다는거에 화내는거 비판한거지 하나하나 만들어야 한다는 이야기는 한 적이 없답니다. 

저도 인종이라는 담론을 억지로 인종과는 거리가 있는 AI에 끼얹는걸 비판한거지 즈그들이 돈지랄 하겠다는걸 뭐 어쩝니까. 

거리가 있다뇨... 언어학 연구에서 미국 내의 인종 분류는 매우 중요하게 작용합니다. 전 영어학으로 석사과정 진행중이라 잘 알아요. 한국은 먼나라 일이니 흑인들 또 난리네 ㅋㅋ 하는 반응 나오는거 이해는 합니다. 하지만 미국 현지에서는 엄청나게 중요한 주제예요. 

그리고 국가 이야기 잘 하셨네요. 미국이라는 국가가 피부가 검거나 어두운 인종집단에 대한 포용을 거부하고 격리, 착취했으니 '흑인' 이라는 정체성을 공유하는 사람들의 집단이 나타난거겠죠? 미국의 흑인이야말로 님의 주장에 가장 강하게 부합하는 집단 중 하나라고 할 수 있겠네요. 

그런 말이 나왔으니까 하는 얘기지만 순전히 백인들의 원죄를 속죄한답시고 지금 저딴 퍼포먼스를 보여주는 꼴로밖에 안보이는데요 정작 중요한건 저들의 세계에서 아시아인은 존재하지도 않는데 자꾸 백인들의 "깨어있는 생각"에 자아를 의탁해서 발언하시는걸로밖에 느껴지지 않아서 그냥 말 줄이겠습니다.

흑인들의 민권 시위가 가장 우선적으로 연대해왔단 대상은 아시안 집단입니다. 현지 사정에 대해 별 관심이 없으면서 가십거리로 소비하는 것에만 즐거움을 느끼시니 이만 말 줄이겠습니다. 

뭐 본인께서 현지에 빠삭하고 오래 살았다는 자부심이 있으신거 같으신데, 저도 유학생활중 입니다. 아시아인에겐 보이지 않는 벽이 굉장히 높아요. 아직 그 벽에 부딫혀보지 않으신거 같아서 그냥 항상 그런 벽이 있다는 사실만 알고 계시길 바랍니다.

흑인들도 비슷한 감정을 느끼는 사람들이 있을거고, 갈라치기당해서 아시안들에 대한 증오심을 갖는 사람들이 있겠죠. 같은 겁니다. 

당연 필요에 따라 만들 수야 있는데, 굳이? 싶은 거죠.

주 사용 언어 별로 챗봇을 별도로 만드는 것과

동일 국가(지역권) 내의 인종별(동일 언어 내에 일부 다른 문화나 어휘)로 챗봇을 만드는 건 사실 좀 다른 문제고요.

이건 우리나라의 표준어와 공통 문화로 이뤄진 챗봇 마음에 안든다고 전라/경상도 전용 챗봇 만드는 꼴에 가깝다고 보입니다.

이건 우리의 대표성을 가지는 것을 편향됐다고 말하는 꼴이죠.

방언은 방언이고 특정 국가의 대표적이고 공식적 어휘라고 하긴 어렵죠.

한국은 강력한 표준어 사용 정책으로 방언이 약화되기도 했고 애초에 지리적으로 좁으니 방언간 차이가 미약하죠. 문화적 차이도 작은 편이고요. 옆동네 중국만 가도 방언간 차이가 크고 다양한 언어들이 존재하지 않나요? 그리고 애초에 왜 만드냐? 고 하면 그 사람들이 필요하니까 만든다는 이야기밖에 할 수가 없습니다. 자기네들이 필요해서 만든다는데 왈가왈부할 이유를 모르겠고 댓글에 보이는 증오섞인 반응도 이유를 모르겠네요. 단순히 인위적인 분류에 의한 집단들이 각자 필요한거 만드는 행위일 뿐인데요.

방언 간 차이가 미약하다고 말하는 건, 사실 우리나라 방언을 좀 무시하는 처사같습니다.

전라도-경상도는 물론이고 충청-전라/경상-서울을 놓고 비교하면 차이는 생각보다 큽니다.

제주까지 놓으면 거의 다른 말이 되고요.

본인들의 필요에 의해 만드는 걸 뭐라 할 필요는 없죠.

다만, 저 개인적으로는 챗봇의 역할을 놓고 봤을 때 굳이? 싶다는 겁니다.

챗봇이 특정 언어나 문화를 기반으로 만들어지는 건, 그래야 더 '효율성'과 '정확성'이 오르기 때문입니다.

특정 인종이나 문화를 올려치고 내려치기 위함이 아니죠.

다른 분들이 지적하는 건 이런 부분이라고 사료됩니다.

레오나르도 다빈치나 미켈란젤로 급 예술가가 단지 유럽인이라서 유명한 걸까요?

제가 보기엔 충분히 인류 문화의 대표 자격을 가진 인물들이라서 언급되는 것 같습니다.

그걸 부정하는 건 그냥 본인 인종/문화가 무시당한다는 생각과 이런 현실에 대한 부정으로 보이고요.

말씀하신 거 쭉 읽어봤는데

다들 흑인을 위한? 흑인문화를 위한? AI 만드는 거에 대해 뭐라 하는 게 아닙니다.

저걸 가지고 포용성과 다양성이라는 대의명분을 붙이는 게 웃기는 거죠.

하나의 모델이 여러 인종과 문화, 언어를 다 할 수 있는게 포용력인거지, 각각 자기마다 자기들의 언어 AI를 만드는 건 그냥 말씀하신 것처럼 자기들 필요에 의해 개별 AI를 개발하는 겁니다.

자기들의 문화와 언어를 담아놓는 AI 만드는거 아무도 뭐라고 안 해요. 그런데 거기에다 같잖은 대의명분 가져다가 발라놓지 말라는 거죠.

미국 기준 제3시민인 아시안 입장에선 꼴받습니다.

본문 읽어보셨나요? 
존 파스모어는 "챗GPT에게 우리 문화에서 가장 중요한 예술가가 누구냐고 묻는다면 레오나르도 다빈치나 미켈란젤로를 꼽을 것"이라며 "이 모델은 유럽 역사의 궤적에 초점을 맞춘 편견을 가지고 있기 때문에 인도나 중국, 아프리카, 심지어 아프리카계 미국인에 대해서는 언급하지 않을 것"이라고 지적했다. 

이 대목만 봐도 그런 이야기는 하기 힘드실텐데요. 그리고 챗gpt는 온라인상의 자료 수집에 치중하기 때문에 구두나 인쇄물에 많은 자료가 남은 아프리카계 미국인의 언어생활을 잘 반영하지 못하기 때문에 그런걸 갈무리한 언어모델을 만든다는 내용입니다. 과거에 계속 해왔던 소수 언어/문화 아카이빙 프로젝트와 별로 다를게 없어요; 

그리고 미국 기준 3시민이라 하셨는데 그러면 프랑스 기준 3시민인 북아프리카계 프랑스인들은 프랑스어 강요에 반발하여 지역언어 다양성을 추구하는 오크어 활동가들한테 똑같은 말을 할 수도 있겠네요. 궤변이죠. 하나의 모델이 모든 언어와 문화를 포용해야 한다는 것이야말로 폭력입니다. 그런 논리면 챗gpt 외에 다른 언어모델은 다 폐업하고 전인류가 오픈ai에 모여서 개발해야죠. 현실적으로 그게 불가능하고 말도 안되니 각자가 필요한 걸 만드는 겁니다. 

제 댓글 읽어보셨나요.... 누가 모델 만드는 걸로 뭐라 하냐고요. 자기들을 위한 모델을 만드는 걸 다양성으로 말하는 게 어이가 없는거죠.

개별 문화에 대한 노력 자체는 다양성이 아닙니다. 그러한 노력을 존중해주고 지원해주고 장려되는 사회를 만드는 게 다양성이죠.

'이러한 활동을 통해 얻은 노하우를 공개해 여러 문화권을 위한 언어모델을 만드는 데 기여하겠다'라고 하면 그게 다양성이겠죠.

기사의 제목을 다시 보세요.

"흑인용 챗GPT 등장…인종 다양성 품는 인공지능"

흑인용 -> 다양성 이라는 흐름에 다들 어이없어 하는 겁니다.

"다양한 문화권의 정보를 담는 여러 모델 등장"이라면 '인종 다양성'이라는 단어를 뒤에 붙여도 납득이 가겠죠.

지금 폭력은

서구계의 현 흐름인 '다양성'에서

아시아계 사람과 문화는 의도적으로 배제되는 경우가 다반사인 상황에 분노하는 사람들의 의도를 읽지 못하고

그들의 의도를 혐오와 폭력, 궤변으로 라벨링하는 선생님이 하시는 거라고 생각합니다.

그러니까 그거를 왜 저 사람들한테 화내시는지...
저 사람들이 아시아인들 배제한다고 하나요? 애초에 칼 쥔게 미국 내의 소수집단인 흑인들도 아닌 마당에 무의미한 분노 표출해봤자 무슨 의미가 있나요? 

LA폭동때도 흑인들이 소수자 갈라치기에 낚여서 아시아인 거주구역으로 몰려갔죠. 

저는 저걸 만든 사람한테 화낸 적 없습니다?

저걸 '다양성'으로 말하는 김예슬 기자 (또는 김예슬 기자가 레퍼런스했을 것으로 예상하는 해외언론 기자)한테 화내고 있는 거죠.

여기 있는 누구도 저걸 만든 사람들한테 화내고 있지 않을 겁니다.

자기들이 차별을 만드네요 라는 댓글도 있고 굳이 저걸 왜 만드냐는 댓글도 있고...

그냥 현실을 왜곡하시는거 아닌가요...

그리고 저건 다양성을 확보하고자 하는 노력이 맞죠. 밑에 적었듯이요. 프랑스 내의 언어적 다양성을 위해 오크어 화자들이 자기네 언어로 글을 쓰고 아카이빙을 하는 노력을 수백년간 했듯이 말입니다.

선생님은 다양성이라는 용어를 개인적인 해석을 통해 왜곡하시네요. 그거는 그냥 하나의 사회에서 다양성을 존중하는 것이고요. 애초에 사회 내에서 특정 문화집단이 문화 보존에 실패해서 소멸하면 그게 다양성인가요...? 본문 내용은 특정 문화집단이 자기네 문화를 보존하고 강화하기 위해 노력하는 활동의 일환입니다. 이런 노력을 통해 사회 내의 문화적 다양성이 확보되는거고요. 이런 노력이 없이 어떻게 문화에 대한 존중과 관용이 이루어질 수 있다는건지 모르겠네요. 

보존하지 말라고 안했습니다. 다만 개개별의 보존은 다양성으로 가는 과정의 일부이지, 그 자체가 다양성인 것은 아니라는 것이지요. 

다양성은 그런 개개별의 과정들을 존중하고 촉진시키고 사회적인 자원을 소모할 수 있는 역량을 기르는 것이라고 저는 생각합니다. 그런 부분에 대한 노력 없이 개별의 문화 보존 노력 그 자체를 다양성을 위해 노력과 동일시할 수는 없다고 생각합니다. 특히나 다른 소수자의 관점에서 보았을 때는요.

(자기들의 문화를 보존하려는 노력만 하고 남들의 문화를 보존하려는 노력에 대해서는 하나도 관심이 없다면 그걸 과연 다양성이라고 할 수 있을까요? 저는 그것을 다양성이라고 생각하지 않고, 그냥 집단 항상성 유지를 위한 노력이라고 봅니다.)

그러니까 결국 그런 노력이 다양성의 존중으로 이어지는건데 다양성 얘기하는게 도대체 뭐가 잘못되었나요? 그냥 말꼬리잡기에 불과하죠.

이런 저의 생각과 다르시다면 저는 존중하겠습니다. 이 이상의 의견 차이는 무의미한 소모라고 생각해서요.

저는 선생님의 입장도 무엇인지 대화를 통해 충분히 알았고, 이해가 가고 존중합니다. 다만 또 다른 소수자의 입장에서 동의할 수 없는 부분이 있어 말씀드린 것이었습니다. 

한 마디만 하자면, 남의 생각을 '왜곡' '폭력' 등의 단어로 정의하는 것은 건설적 대화를 위해 도움이 되지 않을 뿐더러, 생각의 범위를 제한하고 틀을 만들 뿐임을 알려드리고 싶습니다.

좋은 밤 되시길 바랍니다.