선거와 관련된 AI 딥페이크가 온라인으로 확산되는 것을 방지하기 위한 캘리포니아의 새로운 AI 법률 중 하나가 미국 대선을 한 달 앞두고 차단되었습니다. 처럼 테크크런치 그리고 이유 보고서에 따르면 John Mendez 판사는 주 법무장관의 집행을 금지하는 예비 금지 명령을 내렸습니다. AB 2839. 캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)이 이 법안에 서명했습니다. AI에 초점을 맞춘 다른 법안과 함께9월 중순에 다시. 그런 다음 그는 X 소유자 Elon Musk에 대한 이야기의 스크린샷을 트윗했습니다. AI 딥페이크 영상 공유 카말라 해리스 부통령을 가짜라고 표시하지 않고. “나는 캘리포니아 주에서 이것을 불법으로 만드는 법안에 방금 서명했습니다.”라고 그는 썼습니다.
저는 방금 캘리포니아 주에서 이것을 불법으로 만드는 법안에 서명했습니다.
딥페이크를 포함하여 실질적으로 사기성 콘텐츠가 포함된 광고나 기타 선거 커뮤니케이션을 고의로 배포할 수 없습니다. https://t.co/VU4b8RBf6N
— 개빈 뉴섬(@GavinNewsom) 2024년 9월 17일
AB 2839는 AI 딥페이크에 정치 후보가 등장하고 주 선거 후 120일 이내에 게시된 경우 AI 딥페이크를 배포하는 모든 사람에게 책임을 묻습니다. 이러한 딥페이크를 보는 사람은 누구나 이를 유포한 사람을 상대로 민사 소송을 제기할 수 있으며, 판사는 금전적 처벌을 원하지 않는 경우 포스터에 조작된 미디어를 게시 중단하도록 명령할 수 있습니다. Newsom이 이를 법으로 서명한 후 동영상의 원본 포스터인 X 사용자 Christopher Kohls는 동영상이 풍자이므로 수정헌법 제1조에 의해 보호된다고 주장하면서 동영상을 차단하기 위해 소송을 제기했습니다.
Mendez 판사는 Kohls의 의견에 동의했습니다. 결정 (PDF) AB 2839는 엄격한 조사를 통과하지 못하고 좁게 맞춤화되지 않았습니다. 그는 또한 법의 공개 요건이 지나치게 부담스럽다고 말했습니다. 그는 “거의 모든 디지털 방식으로 변경된 콘텐츠가 인터넷상의 임의의 개인에게 맡겨지면 유해한 것으로 간주될 수 있습니다”라고 썼습니다. 판사는 YouTube 동영상, Facebook 게시물 및 X 트윗을 신문 광고 및 정치 만화에 비유하고 수정헌법 제1조가 “이러한 비판이 취할 수 있는 새로운 매체에 관계없이 개인의 발언권을 보호한다”고 주장했습니다. 이는 단지 예비적 금지명령일 뿐이므로, 비록 올해 대선에 맞춰 이뤄지지 않을 수도 있지만, 이 법은 장래에 차단 해제될 수도 있습니다.
