캘리포니아 주지사 개빈 뉴섬(민주당)은 일요일 신흥 기술에 대한 새로운 안전 규칙을 만들어 실리콘 밸리의 많은 부분에 큰 승리를 안겨줄 획기적인 인공지능(AI) 법안을 거부했습니다.
Newsom의 거부권은 논란이 되고 있는 캘리포니아 상원 법안 104 또는 첨단 인공 지능 모델을 위한 안전하고 안전한 혁신법으로 알려진 법안에 대해 그가 어떻게 행동할 것인지에 대한 몇 주간의 회의적인 태도를 종식시켰습니다.
~ 안에 거부권 메시지 일요일 발표된 주지사는 이 법안이 “가장 비싸고 대규모 모델”에 초점을 맞추는 것이 “대중에게 AI 제어에 대한 잘못된 보안 인식을 줄 수 있다”고 말했습니다.
“더 작고 전문화된 모델은 SB 1074가 목표로 하는 모델과 동일하거나 훨씬 더 위험할 수 있습니다. 그 대가로 공공의 이익을 위해 발전을 촉진하는 혁신을 축소하는 데 드는 비용이 발생할 수 있습니다.”라고 그는 썼습니다.
이 법안은 주 의회를 통과한 후 지난달 말 그의 책상으로 보내졌고 그의 거부권은 월요일 마감일 하루 전에 나왔습니다.
SB 1047이라고도 불리는 이 법안은 대중에게 공개되기 전에 강력한 AI 모델이 안전 테스트를 거쳐야 한다고 규정했습니다. 예를 들어, 모델을 조작하여 주의 전력망을 해킹할 수 있는지 테스트하는 것이 여기에 포함될 수 있습니다.
또한 모델로 인해 발생한 심각한 피해에 대해 개발자에게 책임을 묻도록 의도되었지만 훈련하는 데 1억 달러가 넘는 AI 시스템에만 적용되었을 것입니다. 현재 모델 없음아직 그 숫자에 도달했어.
Newsom은 “SB 1047은 의도는 좋지만 AI 시스템이 고위험 환경에 배포되는지, 중요한 의사 결정이 필요한지 또는 민감한 데이터의 사용이 포함되는지 여부를 고려하지 않습니다.”라고 썼습니다. “대신 이 법안은 대규모 시스템이 배포하는 한 가장 기본적인 기능에도 엄격한 표준을 적용합니다.”
Newsom은 골든 스테이트에 많은 돈을 가져다 줄 AI 기술의 통제에 대해 종종 회의적인 입장을 표명했습니다. Newsom 사무실에 따르면 캘리포니아에는 세계 ’50대 AI 기업’ 중 32개가 소재하고 있으며, 그 결과 AI 관련 법률의 주요 허브가 되었습니다.
주지사는 자신의 거부권이 대규모 재앙을 예방하기 위해 발전하는 기술에 대한 조치가 긴급히 필요하다는 저자의 주장에 동의하지 않는다는 의미는 아니라고 강조했습니다.
그는 “캘리포니아는 책임을 포기하지 않을 것”이라며 “선제적인 가드레일을 시행해야 하며, 나쁜 행위자에 대한 심각한 결과는 명확하고 집행 가능해야 한다”고 덧붙였다.
Newsom은 모든 솔루션은 AI 시스템과 그 기능에 대한 “경험적 궤적 분석”을 통해 정보를 얻어야 한다고 주장했습니다.
이 법안은 AI 스타트업, 주요 기술 기업, 연구원, 심지어 일부 국회의원들로부터도 엇갈린 의견을 받았습니다. 나누어졌다 기술 개발을 방해할지 아니면 절실히 필요한 가드레일을 설정할지 여부에 대해 논의합니다.
논쟁의 양측은 지난 몇 달 동안 뉴섬에게 압력을 가해 왔습니다.
다음을 포함하여 국내 최고의 기술 기업 중 다수가 오픈AI, 구글과 메타 – Facebook과 Instagram의 모회사 – 이 법안이 AI 남용자가 아닌 개발자를 대상으로 할 것이라는 우려를 표명했으며 기술에 대한 안전 규정이 연방 차원에서 결정되어야 한다고 주장했습니다.
한편 대표적인 AI 스타트업인 앤트로픽(Anthropic)은 지난 달에 혜택을 말했어요 청구서의 금액이 위험보다 컸을 가능성이 높습니다.
지난주, 120명 이상의 헐리우드 인물 그는 “가장 강력한 AI 모델이 곧 심각한 위험을 초래할 수 있다”며 법안에 서명하도록 촉구하는 공개 서한을 썼습니다. 이달 초에는 OpenAI, Anthropic, Google의 DeepMind 및 Meta를 포함한 선도적인 AI 기업의 전현직 직원 100명이 넘는 사람들이 참석했습니다. 뉴섬에게도 편지를 썼다. 이와 동일한 위험에 대해 경고합니다.
낸시 펠로시 전 의장(민주당-캘리포니아)과 다른 캘리포니아 정치인들이 법안에 반대하는 등 의회 의원들도 논쟁에 동참했습니다. 지난달 펠로시 의장은 의회의 “많은” 사람들이 이 법안을 “의도는 좋았지만 정보가 부족한” 것으로 보았다고 말했습니다.
Newsom은 캘리포니아가 전국적인 영향을 미치는 법안에서 역할을 맡아서는 안 된다는 주장을 반박했습니다.
그는 “캘리포니아만의 접근 방식은 당연히 타당할 수 있습니다. 특히 의회의 연방 조치가 없다면 말이죠. 하지만 이는 경험적 증거와 과학을 기반으로 해야 합니다”라고 말하며 현재 AI에 대해 수행되고 있는 연방 및 주 기반 위험 분석을 지적했습니다.
주지사는 이달 초 AI 남용을 방지하고 신흥 기술에 가드 레일을 설치하는 것을 목표로 하는 일련의 다른 법안에 서명했습니다.
이 법안 중 세 가지 이미지, 오디오, 비디오를 생성하고 디지털 방식으로 초상과 음성을 변경할 수 있는 성적으로 노골적인 딥페이크의 오용을 방지하는 것이 목표입니다. 그는 서명했다 다른 두 개의 청구서 배우와 공연자의 이름, 이미지, 초상이 인공 지능에 의해 무단으로 복사되는 것을 방지하는 것을 목표로 합니다.
