기사 내용
사람들이 거의 작업하지 않고도 새롭고 상세한 온라인 리뷰를 효율적으로 생성할 수 있게 해주는 생성적 인공 지능 도구의 출현으로 인해 판매자, 서비스 제공업체 및 소비자는 미지의 영역에 놓이게 되었다고 감시 단체 및 연구자들은 말합니다.
광고 2
기사 내용
기사 내용
추천 동영상
기사 내용
가짜 리뷰는 오랫동안 Amazon 및 Yelp와 같은 많은 인기 소비자 웹사이트를 괴롭혔습니다. 일반적으로 가짜 리뷰 브로커와 지불할 의사가 있는 기업 간의 비공개 소셜 미디어 그룹에서 거래됩니다. 때로는 긍정적인 피드백을 위해 기프트 카드와 같은 인센티브를 고객에게 제공하는 기업이 이러한 리뷰를 시작하는 경우도 있습니다.
그러나 기술 업계 전문가에 따르면 OpenAI의 ChatGPT로 대중화된 AI 기반 텍스트 생성 도구를 사용하면 사기꾼이 더 빠르고 더 많은 양의 리뷰를 생성할 수 있다고 합니다.
미국에서 불법인 기만 행위는 연중 내내 자행되지만, 많은 사람들이 선물 구매에 도움을 주기 위해 리뷰에 의존하는 연말 쇼핑 시즌에는 소비자들에게 더 큰 문제가 됩니다.
광고 3
기사 내용
AI가 생성한 리뷰는 어디에 표시되나요?
가짜 리뷰는 전자상거래, 숙박, 요식업부터 집 수리, 의료, 피아노 레슨과 같은 서비스에 이르기까지 광범위한 산업에서 발견됩니다.
가짜 리뷰를 탐지하기 위해 소프트웨어를 사용하는 기술 회사이자 감시 그룹인 투명성 회사(The Transparency Company)는 2023년 중반부터 AI가 생성한 리뷰가 대량으로 나타나기 시작했으며 그 이후로 그 수가 증가했다고 말했습니다.
이번 달 발표된 보고서에서 The Transparency Company는 가정, 법률, 의료 서비스 등 세 가지 부문에서 7,300만 건의 리뷰를 분석했습니다. 리뷰 중 약 14%는 가짜일 가능성이 높으며 회사는 230만 개의 리뷰가 부분적으로 또는 전체적으로 AI로 생성되었다는 “높은 수준의 확신”을 표명했습니다.
당신의 한낮의 태양
기사 내용
광고 4
기사 내용
The Transparency Company의 작업을 검토했으며 1월 1일부터 조직을 이끌 예정인 기술 스타트업의 투자자이자 고문인 Maury Blackman은 “이것은 리뷰 사기꾼들에게 정말 정말 좋은 도구일 뿐입니다.”라고 말했습니다.
지난 8월, 소프트웨어 회사 DoubleVerify는 생성 AI가 작성한 리뷰를 통해 휴대폰 및 스마트 TV 앱의 “상당한 증가”를 관찰했다고 밝혔습니다. 리뷰는 고객을 속여 기기를 가로채거나 지속적으로 광고를 게재할 수 있는 앱을 설치하도록 하는 데 자주 사용되었다고 회사는 말했습니다.
다음 달, 연방거래위원회(Federal Trade Commission)는 Rytr이라는 AI 작성 도구 및 콘텐츠 생성기를 제공하는 회사를 고소하면서 이 회사가 사기성 리뷰로 시장을 오염시킬 수 있는 서비스를 제공하고 있다고 비난했습니다.
광고 5
기사 내용
올해 가짜 리뷰의 판매 또는 구매를 금지한 FTC는 Rytr의 가입자 중 일부가 이 도구를 사용하여 차고 문 수리 회사, “복제” 디자이너 핸드백 판매자 및 기타 비즈니스에 대한 수백, 어쩌면 수천 개의 리뷰를 생성했다고 밝혔습니다.
유명 온라인 사이트에도 있을 가능성이 높습니다.
AI 탐지 회사인 팬그램 랩스(Pangram Labs)의 CEO인 맥스 스페로(Max Spero)는 자신의 회사가 사용하는 소프트웨어를 통해 아마존에 게시된 일부 AI 생성 평가가 너무 자세하고 괜찮아 보였기 때문에 리뷰 검색 결과의 상단에 표시되는 것을 거의 확실하게 감지했다고 말했습니다. 생각.
그러나 무엇이 가짜인지 아닌지를 판단하는 것은 어려울 수 있습니다. 외부 당사자는 “남용 패턴을 나타내는 데이터 신호에 액세스”할 수 없기 때문에 부족할 수 있다고 Amazon은 말했습니다.
광고 6
기사 내용
Pangram Labs는 Spero가 비공개 계약으로 인해 이름을 밝히기를 거부한 일부 유명 온라인 사이트에 대한 탐지를 수행했습니다. 그는 Amazon과 Yelp를 독립적으로 평가했다고 말했습니다.
Yelp에 대한 AI 생성 댓글의 대부분은 “엘리트” 배지를 얻기에 충분한 리뷰를 게시하려는 개인이 게시한 것으로 보이며, 이는 사용자에게 콘텐츠를 신뢰해야 한다는 점을 알리기 위한 것이라고 Spero는 말했습니다.
배지를 통해 지역 사업주와 함께하는 독점 이벤트에 액세스할 수 있습니다. 사기꾼들은 자신의 Yelp 프로필이 더욱 현실적으로 보이도록 하기를 원한다고 Fake Review Watch라는 감시 그룹을 운영하는 전직 연방 범죄 수사관 Kay Dean이 말했습니다.
추천 영상
죄송합니다. 동영상을 로드하지 못했습니다.
확실히, 리뷰가 AI로 생성되었다고 해서 반드시 가짜를 의미하는 것은 아닙니다. 일부 소비자는 자신의 진정한 감정을 반영하는 콘텐츠를 생성하기 위해 AI 도구를 실험할 수도 있습니다. 영어가 모국어가 아닌 일부 사람들은 자신이 작성한 리뷰에서 정확한 언어를 사용하기 위해 AI를 사용한다고 말합니다.
광고 7
기사 내용
가짜 리뷰를 연구한 미시간 주립대학교 마케팅 교수 셰리 히(Sherry He)는 “좋은 의도에서 나온 리뷰라면 리뷰에 도움이 될 수 있고 더 많은 정보를 얻을 수 있다”고 말했습니다. 그녀는 기술 플랫폼이 합법적인 사용자가 AI 도구로 전환하는 것을 방해하는 대신 유명 플랫폼이 이미 수행하고 있는 악의적인 행위자의 행동 패턴에 초점을 맞춰야 한다고 말했습니다.
어떤 회사들이 하고 있는지
유명 기업들은 가짜 또는 악의적인 리뷰를 제거하기 위해 AI 생성 콘텐츠가 자사 시스템에 어떻게 적용되는지에 대한 정책을 개발하고 있습니다. 일부에서는 이미 가짜 리뷰를 탐지하고 제거하기 위해 알고리즘과 조사팀을 사용하고 있지만 사용자에게 AI를 사용할 수 있는 유연성을 제공하고 있습니다.
예를 들어 Amazon과 Trustpilot의 대변인은 고객이 실제 경험을 반영하는 한 AI 지원 리뷰를 게시할 수 있도록 허용할 것이라고 말했습니다. Yelp는 지침에 따라 검토자가 자신의 사본을 작성하도록 요구하면서 보다 신중한 접근 방식을 취했습니다.
광고 8
기사 내용
“최근 AI 도구에 대한 소비자의 채택이 증가함에 따라 Yelp는 우리 플랫폼에서 이러한 콘텐츠를 더 잘 감지하고 완화할 수 있는 방법에 크게 투자했습니다.”라고 회사는 성명을 통해 밝혔습니다.
아마존, 트러스트파일럿(Trustpilot), 채용 리뷰 사이트 글래스도어(Glassdoor), 여행 사이트 트립어드바이저, 익스피디아, 부킹닷컴이 지난해 출범한 신뢰할 수 있는 리뷰 연합(Coalition for Trusted Reviews)은 사기꾼들이 AI를 불법적으로 사용할 수 있더라도 이 기술은 “다음과 같은 기회도 제공한다”고 말했다. 다른 사람을 호도하기 위해 리뷰를 사용하려는 사람들에 대해 반발하십시오.”
“첨단 AI 탐지 시스템 개발 등 모범 사례를 공유하고 표준을 높여 소비자를 보호하고 온라인 리뷰의 무결성을 유지할 수 있습니다.”라고 그룹은 말했습니다.
광고 9
기사 내용
지난 10월 발효된 FTC의 가짜 리뷰 금지 규정에 따라 FTC는 이러한 행위에 관여한 기업과 개인에게 벌금을 부과할 수 있습니다. 이러한 리뷰를 호스팅하는 기술 회사는 외부인이 플랫폼에 게시하는 콘텐츠에 대해 미국 법률에 따라 법적 책임을 지지 않기 때문에 처벌로부터 보호됩니다.
아마존(Amazon), 옐프(Yelp), 구글(Google) 등 기술 기업들은 자사 사이트에 위조 리뷰를 게재한 혐의로 가짜 리뷰 브로커를 고소했습니다. 회사들은 그들의 기술이 수많은 의심스러운 리뷰와 의심스러운 계정을 차단하거나 제거했다고 말합니다. 그러나 일부 전문가들은 더 많은 일을 할 수 있다고 말합니다.
Fake Review Watch의 학장은 “지금까지의 노력은 거의 충분하지 않습니다.”라고 말했습니다. “이러한 기술 회사가 자사 플랫폼에서 리뷰 사기를 제거하기 위해 그렇게 노력한다면, 자동화 없이 일하는 개인이 하루에 수백 또는 수천 개의 가짜 리뷰를 찾을 수 있는 이유는 무엇입니까?”
광고 10
기사 내용
추천 영상
죄송합니다. 동영상을 로드하지 못했습니다.
가짜 AI 생성 리뷰 발견
연구원에 따르면 소비자는 몇 가지 가능한 경고 신호를 주의 깊게 관찰하여 가짜 리뷰를 찾아낼 수 있습니다. 지나치게 열정적이거나 부정적인 리뷰는 위험 신호입니다. 제품의 전체 이름이나 모델 번호를 반복하는 전문 용어는 또 다른 잠재적 경품입니다.
AI와 관련하여 Yale의 조직 행동 교수인 Balazs Kovacs가 실시한 연구에 따르면 사람들은 AI가 작성한 리뷰와 인간이 작성한 리뷰의 차이를 구분할 수 없는 것으로 나타났습니다. 일부 AI 탐지기는 온라인 리뷰에서 흔히 볼 수 있는 짧은 텍스트에 속을 수도 있다고 연구는 밝혔습니다.
그러나 온라인 쇼핑객과 서비스를 찾는 사람들이 명심해야 할 몇 가지 “AI가 말하는 것”이 있습니다. Panagram Labs는 AI로 작성된 리뷰는 일반적으로 더 길고 고도로 구조화되어 있으며 일반적인 문구 및 속성과 같은 “빈 설명자”를 포함한다고 말합니다. 또한 글에는 “나를 가장 먼저 놀라게 한 것”, “게임 체인저”와 같은 진부한 표현이 포함되는 경향이 있습니다.
기사 내용
