OpenAi는 Chatgpt를 사용하여 AI 소셜 미디어 감시 도구 인 회사의 코드를 디버깅하고 편집하려고 시도한 중국 사용자 그룹의 계정을 금지했습니다. . OpenAi가 Peer Review라고 부르는이 캠페인은 그룹이 Chatgpt가 X, Facebook, YouTube, Instagram 및 기타 플랫폼에서 반 중심의 감정을 모니터링하도록 설계된 프로그램에 대한 판매 피치를 생성하도록 프롬프트를 보았습니다. 이 작전은 특히 중국의 인권 침해에 대한 항의 요구를 발견하는 데 특히 관심이있는 것으로 보이며, 이러한 통찰력을 국가 당국과 공유하려는 의도.
"이 네트워크는 중국 본토 중국 영업 시간과 일치하는 시간 패턴으로 작동하는 ChatGpt 계정으로 구성되어 중국어로 모델을 촉발 시켰으며 자동화가 아닌 수동 프롬프트와 일치하는 볼륨과 다양성을 사용하여 도구를 사용했습니다." Openai가 말했다. "운영자들은 우리의 모델을 사용하여 그들의 통찰력이 해외 중국 대사관에 전송되었다고 주장하고 미국, 독일 및 영국을 포함한 국가의 시위를 모니터링하는 정보 요원들에게 교정 된 주장을했다."
OpenAI의 주요 수사관 인 Ben Nimmo에 따르면이 회사가 이런 종류의 AI 도구를 처음 발견 한 것은 이번이 처음이라고합니다. "위협 행위자는 때때로 우리의 AI 모델을 사용하는 방식 때문에 인터넷의 다른 부분에서 자신이하고있는 일을 엿볼 수 있습니다." Nimmo는 말했다 .
감시 도구에 대한 많은 코드는 메타 중 하나의 오픈 소스 버전을 기반으로 한 것으로 보입니다. . 이 그룹은 또한 Chatgpt를 사용하여 연말 성과 검토를 생성 한 것으로 보입니다.이 검토는 중국 고객을 대신하여 피싱 이메일을 작성했다고 주장하는 연말 성과 검토를 생성 한 것으로 보입니다.
"이 활동의 영향을 평가하려면이 활동에 빛을 발할 수있는 오픈 소스 모델의 운영자를 포함하여 여러 이해 관계자의 입력이 필요합니다." OpenAi는 ChatGpt를 사용하여 AI 소셜 미디어 감시 도구의 코드를 편집하려는 작업의 노력에 대해 밝혔다.
개별적으로 OpenAi는 최근에 Chatgpt를 사용하여 비판적인 소셜 미디어 게시물을 생성하는 계정을 금지했다고 말했다. 미국에 거주하는 중국 정치 과학자와 반체제는 망명으로 미국에 사는 반체제입니다. 같은 그룹은 또한 챗봇을 사용하여 스페인어로 미국의 비판적 기사를 생성했습니다. 이 기사는 출판되었습니다 "주류" 라틴 아메리카의 뉴스 조직은 종종 개인 또는 중국 회사에 기인합니다.
이 기사는 원래 https://www.engadget.com/ai/ai/openai-bans-chinese-accounts-using-chatgpt-to-edit-code-for-social-media-surveillance-html?src에서 Engadget에 실 렸습니다 = RSS
Source link
