캘리포니아 주지사 Gavin Newsom(민주당)은 목요일에 성적으로 노골적인 딥페이크의 오용을 방지하기 위한 여러 인공지능(AI) 법안에 서명했습니다.
뉴섬 주지사가 AI 관련 법안 3개에 서명한 것은 딥페이크 기술 확산에 대한 우려가 커지는 가운데, 캘리포니아주가 첨단 기술을 보호하려는 최근의 노력의 일환이다. 딥페이크 기술은 이미지, 오디오, 비디오를 생성하고 디지털 방식으로 모습과 목소리를 바꿀 수 있다.
이 법안은 AI 개발자와 소셜 미디어 기업이 해당 기술을 무책임하게 사용하는 것을 방지하기 위한 새로운 의무를 규정합니다.
Newsom은 “AI와 같은 디지털 도구가 엄청난 역량을 갖추고 있지만 다른 사람에게 악용될 수도 있는 시대에 살고 있습니다.”라고 말했습니다. 라고 성명을 통해 밝혔습니다. “우리는 캘리포니아 주민을 보호하기 위해 나서고 있습니다.”
세 가지 법률 중 하나인 SB 926은 실제 사람의 성적으로 노골적인 이미지를 만들고 배포하는 것을 불법으로 규정하고 있으며, 이러한 이미지는 실제처럼 보이고 해당 사람에게 “심각한 정서적 고통”을 초래합니다.
SB 981은 소셜 미디어 플랫폼이 사용자가 본인의 성적으로 노골적인 딥페이크 영상을 신고할 수 있는 방법을 마련하도록 규정하고, 해당 기업은 조사가 진행되는 동안 해당 영상을 일시적으로 차단해야 합니다.
세 번째 법안인 SB 942는 AI가 생성한 콘텐츠에 사용자가 이러한 유형의 콘텐츠를 더 쉽게 식별할 수 있도록 해당 콘텐츠를 공개하도록 요구합니다.
뉴섬의 사무실에 따르면 캘리포니아는 세계 “50대 AI 기업” 중 32곳의 본거지이며, 그 결과 AI 관련 입법의 주요 허브가 되었습니다. 이번 주 초, 뉴섬은 다른 두 가지 법안에 서명했습니다. 인공지능이 허가 없이 배우와 공연자의 이름, 이미지, 모습을 복사하는 것을 방지하기 위한 법률입니다.
많은 할리우드 스타들이 빠르게 발전하는 기술을 보호하는 장치가 부족하다고 느낀다며 목소리를 내기 시작했습니다.
~ 안에 그녀의 지지 이번 달 초 해리스 부통령의 메가스타 테일러 스위프트 그녀의 우려를 인용했다 사람들을 속이는 기술의 힘에 대해 그녀는 특히 전직 대통령 트럼프가 어떻게 공유했는지 언급했습니다.여러 개의 가짜 이미지지난달 그녀와 그녀의 팬들에 대해 그가 그녀의 지지를 받고 있다고 주장했습니다.
공연자와 방송인을 대표하는 노동조합인 SAG-AFTRA의 프랜 드레셔 회장은 이번 주 뉴섬이 법안에 서명한 것을 환영하며, 이 법안이 할리우드 인물의 보호를 보장하는 데 도움이 될 것이라고 말했습니다.
캘리포니아 주지사는 지난달 주 의회에서 통과된 안전 및 보안 혁신 프런티어 인공지능 모델법이라는 주요 AI 규제 법안에 아직 서명하지 않았습니다. 그는 9월 30일까지 서명하거나 거부권을 행사해야 합니다.
AI 스타트업, 주요 기술 기업, 연구자 및 일부 의원들은 해당 법안이 빠르게 발전하는 AI 기술 개발을 저해할 것인지, 아니면 절실히 필요한 보호 장치를 마련할 것인지에 대해 의견이 엇갈리고 있습니다.
뉴섬은 특히 논쟁의 양측으로부터 압박을 받고 있습니다.실리콘 밸리의 사람들로부터.
주지사는 골든스테이트에 막대한 자금을 가져올 수 있는 AI 기술을 억제하는 것에 회의적인 입장을 보였지만, 그는 이 법안에 대해서는 입을 다물고 있다. 월요일에 논평을 요청했을 때, 주지사 사무실은 The Hill에 이 조치가 “그 자체의 장점에 따라 평가될 것”이라고 말했다.
