미국 캘리포니아 주지사 개빈 뉴섬이 인공지능(AI) 모델의 안전성을 강화하는 법안에 거부권을 행사했습니다.

더버지는 뉴섬 주지사가 "법안이 AI 기업에 부담을 주고, 캘리포니아의 AI 분야 리더십을 저해할 수 있다는 우려를 표명"했다고 전했습니다.

논란이 된 법안은 '프론티어 AI 모델을 위한 안전하고 안전한 혁신 법'(SB 1047)으로, AI 개발 및 배포 과정에서 안전 프로토콜 적용을 의무화하는 내용을 담고 있습니다.

이 법안은 1억 달러 이상의 훈련 비용이나 1천만 달러 이상의 미세 조정 비용이 소요되는 대규모 AI 모델을 대상으로 하며, 개발자에게 사이버 공격이나 팬데믹과 같은 재난 발생 가능성을 줄이기 위한 '킬 스위치'와 같은 안전 장치 구축을 요구하고 있습니다. 또 법안은 내부 고발자를 보호하고 안전 사기 발생 시 법무장관이 손해 배상을 청구할 수 있도록 하는 내용도 포함하고 있습니다.

뉴섬 주지사는 거부권 행사 이유에 대해 법안이 AI 시스템의 위험 수준이나 중요한 의사 결정, 민감한 데이터 사용 여부를 고려하지 않고 모든 AI 시스템에 일률적인 기준을 적용한다는 점을 지적했습니다.

그는 "선의로 만들어진 법안이지만, SB 1047은 AI 시스템이 고위험 환경에 배치됐는지, 중요한 의사 결정이나 민감한 데이터 사용과 관련되는지 여부를 고려하지 않는다"며 "대신 이 법안은 대규모 시스템이 배포되는 한 가장 기본적인 기능에도 엄격한 기준을 적용한다"고 밝혔습니다.

또한 "이 법안이 빠르게 발전하는 기술을 통제한다는 잘못된 인식을 대중에게 심어줄 수 있다"며 "SB 1047이 목표로 하는 모델보다 작고 특화된 모델이 오히려 더 위험할 수 있다"고 덧붙였습니다.

이 법안은 오픈AI, 앤쓰로픽 등 주요 AI 기업들의 반대에 부딪혔습니다.

오픈AI의 최고 전략 책임자인 제이슨 권은 법안이 AI 발전을 저해할 것이라며 연방 정부가 AI 규제를 담당해야 한다고 주장했습니다.

앤쓰로픽의 CEO인 다리오 아모데이는 법안 수정 후 뉴섬 주지사에게 보낸 서한에서 법안의 장점과 단점을 분석하며 "새로운 SB 1047은 상당히 개선되어 그 이점이 비용보다 클 것으로 보인다"고 밝히기도 했습니다.

반면 법안을 찬성하는 측에서는 AI 기술의 급속한 발전에 따른 사회적 위험을 통제하기 위해서는 강력한 규제가 필요하다고 주장했습니다. 법안의 주요 발의자인 스콧 위너 상원의원은 뉴섬 주지사의 거부권 행사를 비판하며 "공공 안전과 복지, 지구의 미래에 영향을 미치는 중요한 결정을 내리는 대기업에 대한 감시가 필요하다고 믿는 모든 사람에게 좌절을 안겨주는 것"이라고 말했습니다.

이 거부권 행사로 캘리포니아는 AI 규제를 선도할 기회를 놓치게 됐습니다.