Roblox, Discord, OpenAi 및 Google이 출시 중입니다 Roost라는 비영리 단체또는 강력한 온라인 안전 도구는 “AI 시대에 적합한 확장 가능하고 상호 운용 가능한 안전 인프라를 구축하기를 희망합니다.”
이 조직은 공공 및 민간 조직에 자체 플랫폼에서 사용할 수있는 무료 오픈 소스 안전 도구를 제공 할 계획이며, 시작하기 위해 어린이 안전에 특별한 초점을 맞추고 있습니다. Roost를 발표 한 보도 자료는 구체적으로 “아동 성 학대 자료 (CSAM)를 탐지, 검토 및보고하는 도구”를 제공 할 계획을 제시합니다. 파트너 회사는 이러한 도구에 대한 자금 지원과이를 구축하기위한 기술 전문 지식을 제공하고 있습니다.
휴식처의 운영 이론은 생성 AI에 대한 액세스가 온라인 환경을 빠르게 변화시켜 “신뢰할 수 있고 접근 가능한 안전 인프라”가 더 시급하다는 것입니다. 또한 소규모 회사 나 조직이 처음부터 자체 안전 도구를 만들기를 기대하기보다는 무료로 제공하기를 원합니다.
아동 온라인 안전은 어린이와 십대의 온라인 개인 정보 보호법 (Online Privacy Privacy Protection Act) 이후 문제가되었습니다.COPPA) 및 어린이 온라인 안전법 (그러나 그랬습니다) 둘 다 집에 지나치지 않았음에도 불구하고 의회를 통과하기 시작했다. Roost, 특히 Google 및 Openai에 관련된 회사 중 일부는 이미 서약했습니다 AI 도구가 CSAM을 생성하는 데 사용되는 것을 중지합니다.
아동 안전 문제는 Roblox에게 더욱 압박하고 있습니다. 2020 년 현재 9 세에서 12 세 사이의 모든 미국 어린이의 3 분의 2 Roblox를 플레이하고 플랫폼은 역사적으로 아동 안전을 해결하기 위해 고군분투했습니다. Bloomberg Businessweek 보고 된 2024 년에 회사가 “소아 성 문제”를 가졌으며 다수의 정책 변경 그리고 새로운 어린이 DM에 대한 제한. Roost는 이러한 모든 문제가 사라지지는 않지만 Roblox의 입장에서 자신을 찾는 다른 조직이나 회사의 문제를보다 쉽게 처리해야합니다.
이 기사는 원래 https://www.engadget.com/big-tech/roblox-discord-openai-and-google-found-new-child-safety-group-194445241.html?src=rss에서 Engadget에 실 렸습니다
Source link
