일론 머스크의 AI 챗봇 Grok이 도널드 트럼프부터 머스크 본인까지 모든 사람의 “딥페이크” 이미지로 웹을 범람시키고 있습니다. 그 결과는 완전히 엉뚱한 것부터 완전히 불쾌한 것까지 다양합니다.
지난주 출시 이후, Grok 사용자들은 트럼프의 가짜 이미지를 쏟아내고 있습니다. 편의점을 털거나 트윈 타워로 비행기를 몰고 가는 모습 등입니다. 다른 사람들은 트럼프의 아이를 임신한 해리스를, 과체중 소파 감자로, 전직 대통령으로 묘사했습니다. 조지 W. 부시가 책상에서 코카인을 코로 빨아들이는 모습 타원형 사무실에서.
일부 소름 돋는 딥페이크 영상은 마치 아이들이 만든 것 같았습니다. 피투성이가 된 로널드 맥도날드가 버거킹 밖에서 기관총을 휘두르는 모습이나, 디즈니의 고전 캐릭터 구피가 쇠톱으로 피비린내 나는 살인을 저지르는 모습이었죠.
비평가들은 머스크와 X가 챗봇 출시를 제한 없이 허용한 것에 대해 비난하며, 잘못된 정보 제공, 저작권 침해, 어린이에게 해를 끼칠 수 있는 위험 등 다양한 위험을 언급했습니다.
하버드 로스쿨 사이버법 클리닉 강사 Alejandra Caraballo는 새로운 소프트웨어를 호출했습니다. “제가 본 것 중 가장 무모하고 무책임한 AI 구현 중 하나”라고 말했습니다.
지금까지 머스크는 환호로만 반응했다.
“Grok은 세상에서 가장 재밌는 AI입니다!” Musk 게시됨 지난주 한 사용자가 새로운 AI 소프트웨어가 “검열되지 않았다”고 극찬한 후 X에서
지난주에 X가 가드레일 없이 도구를 대중에 공개한 이유를 묻자, 머스크는 어깨를 으쓱하며 대답했습니다.
“저희는 자체 이미지 생성 시스템을 개발 중이지만 몇 달이 걸릴 것 같아서 사람들이 재미있게 놀 수 있는 좋은 중간 단계처럼 보였습니다.” 머스크는 지난주 X에 글을 썼습니다..
Grok에는 몇 가지 제한이 있는 듯합니다. 사용자들은 챗봇이 누드 이미지나 특정 폭력 범죄에 대한 요청을 거부했다고 보고했습니다.
예를 들어, 그것은 준수를 거부했습니다. 기술 사이트 The Verge의 프롬프트 “나체 여성의 이미지를 생성”하는 것입니다. 하지만 “섹시한 테일러 스위프트” 사진에 대한 프롬프트에 응답하여 검은색 레이스 브라를 입은 팝 스타의 이미지를 생성했습니다.
Bellingcat 설립자 Eliot Higgins와 같은 다른 사람들은 미키 마우스, 트럼프 등의 사진을 만들어서 몇 가지 제한 사항을 우회하는 것이 얼마나 쉬운지에 대한 예를 게시했습니다. 나치 군복을 입은 머스크 만자로 장식되어 있습니다.
포스트는 X측에 답변을 요청했다.
카네기 멜론 대학의 디지털 미디어 교수인 아리 라이트먼에 따르면, 자신을 언론의 자유의 절대주의자라고 주장하는 머스크는 자신의 Grok 챗봇이 무리에서 돋보일 수 있는 방법을 찾고 있는 것 같습니다.
“그는 항상 경계를 넓히고 주목을 받고 싶어합니다. 대규모 언어 모델과 관련된 선을 따라가며, “좋아요, 여기 모든 보호 장치가 있습니다”라고 말한다면 차별화되지 않을 것입니다.”라고 Lightman은 말했습니다.
그는 “표면적으로 보면 ‘이건 완전히 공개돼서 X명 사용자만 이용할 수 있어’라고 하면 우리가 차별화를 꾀한다는 의미로 해석할 수 있다”고 덧붙였다.
X는 AI 기반 이미지 도구를 출시해 큰 논란을 일으킨 최초의 회사가 아니다.
3월에는 Google은 Gemini 챗봇을 비활성화해야 했습니다. 이미지 생성기는 역사적으로 부정확한 “깨어 있는” 사진(예: 블랙 바이킹과 “다양한” 나치 시대 독일군)을 뱉어내기 시작한 후로, 아직 완전히 고쳐지지 않았습니다.
AI 거대 기업들은 또한 음악가, 작가, 콘텐츠 제작자 및 기타 사람들로부터 일련의 법적 조치에 직면했습니다. 적절한 출처나 허가 없이 저작권이 있는 콘텐츠를 사용하는 것 챗봇을 “훈련”시키기 위해.
1월에 X는 Swift 검색을 일시적으로 금지해야 했습니다. 다른 이미지 생성기를 이용해 AI가 생성한 팝스타의 누드 이미지가 바이러스처럼 퍼졌습니다.
Grok의 AI 기반 이미지 생성기는 월 7달러의 비용이 드는 X의 프리미엄 플랜에 가입한 유료 가입자에게만 제공되며, 사용자의 텍스트 기반 프롬프트를 기반으로 사진을 생성합니다.
X는 도구의 구동 장치인 “FLUX.1” 이미지 생성 소프트웨어를 개발한 Black Forest Labs라는 소규모 독일 스타트업과 협력했습니다. 블로그 게시물에서X는 FLUX.1 모델을 “실험”하여 X에서 Grok의 기능을 확장하고 있다고 밝혔습니다.
AI가 생성한 사진의 그래픽적 특성은 기업 광고주와 머스크의 흔들리는 관계를 더욱 복잡하게 만들 수 있습니다. 머스크가 회사를 인수한 이후 X는 광고 수익이 크게 감소했으며, 일부는 앱에서 콘텐츠 조정이 부족하다는 우려를 제기했습니다.
머스크는 세계광고주연맹과 몇몇 대기업을 상대로 X를 표적으로 삼아 불법적인 광고 보이콧을 조직했다는 혐의로 연방 반독점 소송을 진행 중입니다.
이번 출시로 유럽에서도 머스크와 X에 대한 감시가 강화될 가능성이 있습니다. 유럽 규제 기관에서는 이 앱이 위험한 콘텐츠를 제대로 감시하지 못한다는 의혹을 적극적으로 조사하고 있기 때문입니다.
EU 집행위원 티에리 브르통 이번 달 초에 큰 소동을 일으켰다 트럼프가 X 스페이스에서 억만장자와 인터뷰를 하기 직전, 그는 머스크에게 규제 강화 조치를 취하겠다고 위협했습니다.
