생성형 AI 기반 딥페이크 기술로 만든 합성 영상으로 밝혀져
AI 기술 발전할수록 디지털 복제 문제도 커져… 소비자 주의 요구
생성형 AI(인공지능)가 만든 '스캠(scam, 사기)' 광고가 기승을 부리고 있다. 최근 국내에서 배우 송혜교와 조인성의 얼굴과 목소리를 조작한 딥페이크(deepfake, AI를 활용한 영상 합성 기술) 영상이 투자 사기에 악용되면서 논란이 된 가운데, 미국 팝스타 테일러 스위프트(Taylor Swift)도 AI가 만든 가짜 광고로 몸살을 앓고 있다.
12일 업계에 따르면 최근 페이스북(facebook)과 틱톡(TikTok) 등 소셜미디어 상에서는 주방 브랜드 르쿠르제(Le Creuset)와 테일러 스위프트의 컬래버레이션이 큰 화제를 모았다.
해당 영상은 평소 르쿠르제 브랜드를 애용하는 것으로 유명한 테일러 스위프트가 자신의 팬덤인 '스위프티(Stifties)'들에게 무료로 르쿠르제 냄비를 선물하는 이벤트 내용을 담고 있다.
테일러 스위프트는 직접 영상에 등장해 "포장 불량으로 3000개의 르쿠르제 쿠킹웨어 제품을 판매할 수 없게 됐다. 그래서 이 제품들을 진정한 팬들에게 무료로 제공하기로 했다. 이 광고를 보는 분들은 쿠킹웨어 세트를 공짜로 받을 수 있다. 단, 공짜로 제품을 받기 위해서는 미국에 거주해야 하며 한 가구당 한 세트만 받을 수 있다"고 말하며 무료 제품을 받기 위해 영상 아래에 있는 링크를 클릭할 것을 권유한다. (해당 영상 클릭)
링크를 누르면 유명 식품 플랫폼인 '푸드 네트워크(Food Network)'를 모방한 가짜 사이트로 연결되고, 소비자들에게는 조작된 가짜 고객 리뷰를 보여준다. 또한 테일러 스위프트가 광고한 무료 제품을 받기 위해 소비자들에게 소액의 배송비 9달러96센트(한화 약 1만3000원)를 결제할 것을 요구하며, 실제로는 매달 일정 금액이 자동 결제되도록 속였다. 르쿠르제 제품을 무료로 증정한다는 것 역시 거짓이었다.
테일러 스위프트가 등장한 영상은 생성형 AI가 만들어 낸 스캠 광고였고, 그 피해는 고스란히 테일러 스위프트의 팬들에게 돌아갔다.
논란이 되자 르쿠르제 측은 "우리는 이 프로모션과 관련이 없다"며 "공식 채널을 통해서만 제품을 구매하고, 의심스러운 광고는 경계해야 한다"는 당부의 얘기를 전했다.
최근 유명인을 악용한 AI 스캠 광고가 지속적으로 증가하고 있다. 배우 톰 행크스(Tom Hanks)와 저널리스트 게일 킹(Gayle King), 유명 유튜버 미스터비스트(MrBeast) 등도 자신의 이미지를 도용한 스캠 광고로 인해 피해를 입었고, 송혜교와 조인성도 딥페이크로 합성된 투자 사기 영상에 등장하면서 곤욕을 치렀다.
지난 1년 간 생성형 AI 기술이 빠르게 발전하면서 허가받지 않은 이미지를 사용한 디지털 복제 문제가 커지고 있다. 기술이 발전할수록 딥페이크 영상을 제작하기는 쉽고 식별하기는 어려워지면서 이를 사기에 악용하는 사례가 끊이지 않는 것. 특히 유명인들의 이미지를 불법으로 사용한 스캠 광고는 파급력과 피해규모가 커 소비자들의 더욱 큰 주의가 요구되고 있다.
