캘리포니아주 의회가 추진 중인 인공지능(AI) 규제 법안을 두고 미국 AI 기업들의 반발이 발생하고 있습니다. 이 법안은 오픈AI, 앤쓰로픽, 코히어와 같은 대형 AI 스타트업은 물론. 메타 같은 기술 기업에도 영향을 미칠 것으로 보입니다.

핵심 쟁점은 "AI 모델의 안전성 확보와 혁신 저해 가능성 사이의 균형점을 찾는 것"입니다. 법안은 AI 기업들이 '위험한 기능'을 가진 모델 개발을 금지하고, 안전 테스트 보고 및 '킬 스위치' 도입을 의무화하는 내용을 담고 있습니다. 하지만 실리콘 밸리에서는 이러한 규제가 오히려 AI 혁신을 저해하고 스타트업의 캘리포니아주 이탈을 부추길 수 있다는 우려가 제기됩니다.

특히 논란이 되는 부분은 오픈 소스 AI 모델에 대한 규제입니다. 아스테크니카에 따르면 메타의 생성형 AI 팀 리더 아룬 라오(Arun Rao)는 법안이 오픈 소스 개발자들에게 과도한 책임을 부과하여 캘리포니아에서 오픈 소스 개발을 사실상 불가능하게 만들 것이라고 비판했습니다.

반면 법안을 발의한 스콧 위너(Scott Wiener) 상원의원은 AI의 성공과 혁신을 지지하지만 안전 위험을 예방하기 위한 최소한의 조치가 필요하다고 강조했습니다. 또 오픈 소스 개발자에 대한 책임 범위를 명확히 하고 '킬 스위치' 요구 사항을 완화하는 등 수정안을 제시했습니다.

이 논란은 급성장하는 AI 기술을 둘러싼 규제 논의가 본격화되고 있음을 보여줍니다. 미국, 영국 등 여러 국가에서도 AI 안전, 개인 정보 보호, 알고리즘 차별 방지를 위한 규제 방안을 마련 중입니다.