개빈 뉴섬 캘리포니아 주지사가 인공지능(AI) 규제법안에 거부권을 행사했다. AI 개발사에 무거운 책임을 부과해 테크업계의 큰 반발을 불러온 법안의 입법을 최종 무산시킨 것이다. 같은날 민감한 개인정보의 범위를 신경 데이터로 확대하는 법안에는 서명했다. 미국 민주당의 잠재적 대권주자로 분류되는 뉴섬 주지사가 빅테크에 ‘당근과 채찍’을 동시에 들고 있다는 분석이 나온다.

뉴섬, '민주당 추진' AI 규제법에 거부권

뉴섬 주지사는 29일(현지시간) 지난달 캘리포니아 주의회 상·하원을 모두 통과한 AI 규제법안 ‘SB 1047’에 거부권을 행사했다. 주의회 하원이 지난달 28일 찬성 49표, 반대 1표라는 압도적인 표 차이로 통과시킨 지 한 달여 만이다. 뉴섬 주지사는 “(SB 1047)은 AI 모델의 크기와 비용만을 기준으로 규제하려 했을 뿐 실제 그 모델이 위험한 상황에 사용되는지 여부는 고려하지 않았다”며 “규제는 반드시 과학적이고 실증적인 증거에 기반해야 한다”고 밝혔다.

해당 법안의 골자는 AI가 인적·물적 피해를 일으킬 경우 개발사가 책임을 부과하는 것이었다. AI 기술을 대중에게 공개하기 전 안전성 시험을 의무화하고, 제3자 감사 인력이 반드시 AI 개발사의 안전 관행을 평가하도록 규정했다. 또 AI 모델에 ‘킬 스위치’(kill switch·비상정지)를 설치하고 AI 문제를 고발하려는 직원에 대한 내부 고발자 보호 조치도 마련하도록 했다. 구글·메타·마이크로소프트(MS)가 이 법에 대해 “안전을 명목으로 모호한 기준을 부과한다”는 우려를 표했고, 샘 올트먼 오픈AI 최고경영자(CEO)는 “매우 나쁜 규제”라고 비판하는 등 테크업계의 강력 반발에 부딪혀왔다.

AI 규제법에 뉴섬 주지사가 거부권을 행사한 건 이례적이라는 평가가 나온다. 뉴섬 주지사는 페이페이 리 스탠포드대 교수 등 AI 전문가들과 협력해 새로운 법안을 추진하고 있다고 밝혔지만, 그동안 뉴섬 주지사가 법안에 최종 서명할 것이라는 관측이 우세했다. 뉴섬 주지사는 취임 후 딥페이크 규제법을 비롯해 선거 관련 콘텐츠가 AI로 생성한 콘텐츠를 포함하는 경우 플랫폼 업체가 이를 표기할 것을 의무화하는 법 등 17개의 AI 규제 관련법에 서명했다.

특히 이번 법안은 앞서 하원의 77.5%를 차지하는 민주당의 강력한 지지로 주의회를 통과됐다. 법안을 발의한 민주당 소속 스콧 위너 캘리포니아 상원의원은 “대중의 안전 및 복지에 영향을 미치는 빅테크에 대한 감시 역할을 믿는 모든 이들에게 좌절감을 안겨준 것”이라고 뉴섬 주지사를 강력 비판했다. 이어 “업계의 자발적인 약속은 강제력이 없고 대중을 위해 잘 작동하는 경우가 드물다”고 덧붙였다.

테크업계 반발 '신경데이터 보호법'엔 서명

일각에서는 뉴섬 주지사가 정치적인 부담감에 한발 물러선 것이라는 분석도 나온다. 뉴섬 주지사는 민주당 내에서도 진보적인 인사로 꼽히지만, 주지사 당선 전 샌프란시스코 시장을 역임한 만큼 테크업계에 친화적인 인물로 꼽혀왔다. 미 정치매체 폴리티코는 “뉴섬은 엔비디아와 AI 교육 프로그램 계약을 체결하고 지역 언론에 자금을 지원하기 위해 구글과 계약을 체결하는 등 주지사 당선 이후에도 실리콘밸리와 긴밀한 관계를 유지해왔다”며 “뉴섬 주지사는 (AI 규제법안으로 인해) 정·재계로부터 치열한 로비에 직면해왔다”고 보도했다.

실제 뉴섬 주지사는 이날 개인정보 보호법 개정안에는 서명했다. 두뇌와 말초 신경계에 의해 생성되는 신경 데이터를 생체 인식 정보인 얼굴 이미지, 유전자, 지문 등 ‘민감 데이터’와 동일하게 보호받도록 하는 법이다. 방대한 뇌 신경 정보를 수집할 수 있는 장치를 개발 중인 메타·애플 등 빅테크는 자신들의 대표 이익단체 ‘테크넷’을 통해 “이 법은 인간 행동에 대해 기록하는 거의 모든 기술을 규제한다”며 반발해왔다. 하지만 이 법은 미국 전역에서 치열한 논쟁을 불러온 AI 규제법보다는 테크 업계의 반발 수위가 낮았다. 그만큼 뉴섬 주지사의 정치적인 부담도 적었다는 분석이 나온다.

실리콘밸리=송영찬 특파원 0full@hankyung.com