인공지능의 선구자인 제프리 힌튼(Geoffrey Hinton)은 이 기술로 생성된 비디오, 음성, 이미지를 실제 물질과 구별하는 것이 점점 더 어려워지고 있다고 말합니다. 하지만 그는 이 싸움에 도움이 될 아이디어를 가지고 있습니다.
증가하는 투쟁은 영국계 캐나다인 컴퓨터 과학자이자 최근 노벨상 수상자가 세상이 가짜 콘텐츠를 해결할 수 있다고 생각하는 방식의 변화에 기여했습니다.
Hinton은 월요일 첫 번째 Hinton Lectures에서 “한동안 AI가 생성한 것으로 사물에 라벨을 붙일 수 있을 것이라고 생각했습니다.”라고 말했습니다.
“이제는 코드를 입력하고 일부 웹사이트에 가서 해당 웹사이트에서 동일한 내용을 확인함으로써 사물이 실제임을 인식할 수 있는 것이 더 그럴듯하다고 생각합니다.”
Hinton은 이번 주 토론토의 John WH Bassett Theatre에서 열린 Global Risk Institute의 2일간의 Hinton Lectures 행사 중 첫 번째 행사에서 연설했습니다.
종종 AI의 대부라고 불리는 Hinton은 기술이 제기하는 위험에 대해 대중에게 경고해 온 많은 위험을 청중에게 상기시키기 위해 잠시 무대에 올랐습니다. 그는 AI가 우발적인 재해, 실업, 사이버 범죄, 차별, 생물학적, 실존적 위협을 유발하거나 기여할 수 있다고 생각합니다.
그는 라벨링 방식을 통해 콘텐츠가 가짜가 아닌지 확인할 수 있으며 정치적인 비디오 광고에 특히 유용할 수 있다고 말했습니다.
Hinton은 “QR 코드 같은 것이 포함되어 웹사이트로 이동할 수 있으며, 해당 웹사이트에 동일한 동영상이 있는 경우 해당 웹사이트가 진짜인지 확인하기만 하면 됩니다.”라고 Hinton은 설명했습니다.
토론토 메트로폴리탄 대학의 공공 정책 기관인 Dais가 2,501명의 캐나다인을 대상으로 실시한 4월 조사에 따르면 대부분의 캐나다인은 온라인에서 딥페이크를 발견했으며 거의 4분의 1이 매주 딥페이크를 접합니다.
딥페이크는 발생하지 않은 장면을 묘사하는 디지털 방식으로 조작된 이미지나 비디오입니다. 최근 딥페이크에는 발렌시아가 패딩 재킷을 입은 프란치스코 교황이 등장했습니다. 팝스타 테일러 스위프트가 성적으로 노골적인 포즈를 취하고 있다..
행사 후 기자회견에서 힌튼은 자신과 프린스턴 대학 연구원인 존 홉필드(John Hopfield)가 이달 초 노벨 물리학상을 수상하면서 받은 145만 달러 중 절반으로 자신이 한 일에 대해 더 자세히 공유했습니다.
Hinton은 안전한 물 시스템을 개발하고 이에 대한 접근을 제공하는 방법에 대해 원주민 커뮤니티를 교육하는 조직인 온타리오주의 크리모어인 Water First에 자신의 상금 절반을 기부했다고 말했습니다.
그는 처음에는 맷 데이먼이 아프리카에서 활동하고 있는 물 관련 단체에 돈의 일부를 기부하는 것을 고려했지만, 그 후 그의 파트너가 그에게 “캐나다는 어떻습니까?”라고 물었다고 말했습니다.
올해 노벨 물리학상 수상자는 ‘AI의 대부’로 불리는 영국계 캐나다인 제프리 힌턴이다. 그는 CBC의 수석 정치 특파원인 로즈마리 바튼(Rosemary Barton)과 함께 정부가 기술과 선거 캠페인에서의 사용을 규제해야 하는 방법에 대해 이야기합니다.
이로 인해 Hinton은 Water First를 발견하게 되었습니다. 그는 많은 행사가 시작될 때 토지 승인을 듣게 되었기 때문에 강제로 기부하게 되었다고 말했습니다.
“그들이 (땅에 먼저 살았던 사람이 누구인지) 알아주는 것은 좋은 일이라고 생각합니다. 그러나 원주민 아이들이 설사를 하는 것을 막지는 못합니다.”라고 그는 말했습니다.
Hinton은 이전에 그의 상금 중 일부가 신경다양한 청년들에게 일자리를 제공하는 조직에 전달될 것이라고 말했습니다.
‘걱정스러운 비관주의자’
월요일 저녁에도 캘리포니아 UC 버클리의 전기 공학, 컴퓨터 과학 및 통계학 조교수인 Jacob Steinhardt의 강연이 대부분이었습니다.
Steinhardt는 청중에게 AI가 많은 사람들이 예상하는 것보다 훨씬 빠르게 발전할 것이라고 믿지만 그 과정에서 놀라운 일이 있을 것이라고 말했습니다.
그는 2030년에는 AI가 수학, 프로그래밍, 해킹 분야에서 ‘초인적’이 될 것이라고 상상합니다.
그는 또한 AI 시스템을 뒷받침하는 대규모 언어 모델이 설득이나 조작이 가능해질 수 있다고 생각합니다.
Steinhardt는 “누군가가 설득력을 훈련시키려고 한다면 부도덕한 회사나 시민들을 설득하는 데 신경을 쓰는 정부 중 하나일 것입니다.”라고 말했습니다. “당신이 할 수 있는 일이 많아요.”
그는 청중들에게 자신을 ‘걱정스러운 낙관주의자’로 본다고 말했습니다. 그는 기술이 인류를 멸종시킬 확률이 10%이고 엄청난 경제적 가치와 ‘급진적인 번영’을 가져올 확률이 50%라고 믿습니다.
이후 기자회견에서 Steinhardt의 “걱정스러운 낙관주의자”라는 꼬리표에 대한 질문에 Hinton은 자신을 “걱정스러운 비관주의자”라고 불렀습니다.
“사람들에게 위험을 추정하라고 하면 정상적이고 건강한 사람들은 정말 나쁜 일의 위험을 과소평가한다는 연구 결과가 있습니다. 그리고 올바른 위험을 감수하는 사람들은 약간 우울한 사람들입니다.”라고 Hinton은 말했습니다.
“저는 제 자신도 그중 하나라고 생각합니다. 제이콥(스타인하르트)이 생각하는 것보다 위험이 약간 더 높다고 생각합니다. 약 20%라고 가정하겠습니다.”
