얼굴을 합성한 음란영상 유포
'국민 가수' 피해에 팬들 분노
백악관, 입법을 통한 규제 필요성 제기
국회와 여야 모두 “뭔가 터졌다”고 말했다.
MS CEO “안전대책 마련해야”
미국의 사랑받는 팝스타 테일러 스위프트가 인공지능(AI) 딥페이크의 피해자가 되면서 미국이 흔들리고 있다. 분노한 팬들을 달래기 위해 백악관과 의회는 대책 마련에 나섰고, AI 업계의 선두주자인 마이크로소프트(MS)도 “안전 대책이 필요하다”는 메시지를 내놨다.
26일(현지시각) 뉴욕타임스(NYT)와 CNN에 따르면 테일러 스위프트의 얼굴이 X(구 트위터)에 합성된 딥페이크 음란 이미지는 지난주 최소 4700만회 조회됐다. 딥페이크(Deepfake)란 AI 기술을 이용해 교묘하게 합성한 가짜 이미지나 영상을 말한다. 지금은 해당 사진들이 삭제됐지만 스위프트 팬들은 “이런 사진은 없다”며 분노를 쏟아내고 있다.
여론이 불안해지자 정치권도 나섰다. 카린 장 피에르 백악관 대변인은 이날 스위프트 딥페이크 관련 브리핑에서 “우리는 매우 우려하고 있다. 그는 “조 바이든 대통령은 지난해 행정명령에서 발표한 것처럼 생성 AI가 생성한 이미지에 대한 위험을 줄이기 위해 노력하고 있다”고 말했다. “우리는 계속해서 조치를 취할 계획이며 의회도 전략적 입법 조치를 취해야 합니다.” 말했다.
NYT에 따르면 현재 미국 9개 주에는 당사자의 동의 없이 AI 딥페이크 이미지를 생성하거나 공유하는 것을 금지하는 법률이 있지만 연방 차원에서는 아직 규제가 없다.
지난해 딥페이크 이미지 배포를 연방 범죄로 규정하는 법안을 발의한 민주당 소속 조 모렐 하원의원은 이번 사건을 “끔찍하다”며 “이런 일은 매일 어디서나 여성들에게 일어나고 있다”고 말했다. 이어 “딥페이크 이미지나 영상은 피해자에게 돌이킬 수 없는 정서적, 금전적, 명예 훼손을 초래한다”고 덧붙였다.
공화당 소속 톰 킨 주니어 의원도 “AI 기술은 보호 조치가 마련되는 속도보다 빠르게 발전하고 있다”며 “피해자가 테일러 스위프트든 미국의 어떤 청년이든 우리는 대책을 세워야 한다”고 말했다. 이 놀라운 추세에 맞서기 위한 안전 조치입니다.” 말했다.
민간업계에서도 안전대책의 필요성에 공감하는 목소리가 나왔다. AI 산업의 최전선에서 경쟁하고 있는 마이크로소프트(MS) 사티아 나델라 CEO는 NBC와의 인터뷰에서 “안전한 콘텐츠가 생산될 수 있도록 AI 기술에 안전 장치를 설치하는 것은 우리의 책임”이라고 덧붙였다. , “동시에 법 집행 기관은 안전한 콘텐츠를 생산할 책임이 있습니다.” “우리는 지방 기술 플랫폼과 협력하여 더 많은 규제를 할 수 있을 것입니다.”라고 그는 말했습니다.
나델라가 정부 규제에 찬성 입장을 적극적으로 밝힌 이유는 이번 스위프트 딥페이크 이미지가 마이크로소프트의 AI 생성 도구인 '디자이너'를 이용해 제작된 것이라는 의혹이 있기 때문이다. MS는 이전에 이 문제를 조사 중이라고 밝혔습니다.
AI가 등장한 이후 딥페이크 이미지가 온라인에 넘쳐나고 있습니다. 영국 BBC는 연구 논문을 인용해 지난해 딥페이크 이미지 생성 건수가 2019년 대비 550% 증가했다고 보도했다. 또한 지난해 미국에서 발간된 '딥페이크 현황 보고서'에 따르면 대부분의 딥페이크 관련 제작물이 유통됐다. 온라인에는 음란물이 있었습니다. 피해자의 99%가 여성인 것으로 드러났다.
