AI가 생성한 '가짜 이미지'로 흑인 유권자 공략하는 트럼프 지지자들

일부 도널드 트럼프 후보의 지지자들이 흑인 유권자들을 끌어들이고자 인공지능(AI)으로 거짓 사진을 생성해 공유하고 있는 것으로 알려졌다.

BBC 파노라마팀은 흑인들이 트럼프 후보를 지지하는 것처럼 묘사한 딥페이크 이미지 수십 장을 발견했다.

트럼프 후보가 지난 2020년 대선에서 조 바이든 현 대통령의 승리에 핵심적인 역할을 했던 흑인 유권자들을 공개적으로 공략하고 있긴 하지만, 이러한 거짓 이미지가 트럼프 선거 운동과 직접적으로 연관이 있다는 증거는 없다.

흑인들의 투표 참여를 독려하는 '흑인 유권자는 소중하다(Black Voters Matter)'를 공동 설립한 한 시민 운동가는 이러한 거짓 이미지는 트럼프 후보가 흑인들에게 인기 있다는 “전략적인 내러티브”를 퍼뜨리고 있다고 설명했다.

한편 이러한 합성 이미지를 만든 제작자 중 하나는 BBC와의 인터뷰에서 “이러한 사진들이 진짜라고 주장하는 게 아니”라고 설명했다.

AI로 만들어낸 흑인 트럼프 지지자 이미지는 오는 11월로 예정된 미 대선을 앞두고 새롭게 유행하는 가짜 정보 중 하나로 손꼽힌다.

외국 세력이 개입했다는 증거가 있었던 지난 2016년과 달리, BBC가 발견한 이러한 AI 이미지는 미국 내에서 시민들이 직접 생성해 공유한 것으로 보인다.

플로리다주의 어느 보수 성향 라디오 쇼에서 일하는 마크 케이와 팀원들도 이러한 이미지를 생성한 이들 중 하나다.

이들은 트럼프가 파티에서 미소 지으며 흑인 여성들과 어깨동무하는 이미지를 만들어 페이스북에 공유했다. 케이의 팔로워는 100만 명 이상이다.

언뜻 보기에는 진짜처럼 보이지만, 자세히 보면 모든 인물의 피부가 과도하게 반짝거리며, 손가락이 없는 사람도 있다. AI 생성 이미지임을 보여주는 흔적들이다.

케이는 BBC와의 인터뷰에서 “나는 사진 보도 기자가 아니”라고 말했다.

“저는 실제로 일어나는 일을 사진으로 찍는 게 아닙니다. 저는 스토리텔러죠.”

케이는 트럼프 후보를 지지하는 흑인 유권자들에 관한 기사를 게재하며 이러한 이미지를 첨부했다. 언뜻 흑인들이 트럼프 후보의 백악관 복귀를 지지하는 듯한 인상을 풍긴다.

그리고 페이스북 댓글을 살펴보니, 몇몇 사용자는 이 AI 합성 이미지가 진짜라고 믿는 이들도 있는 듯 했다.

이에 대해 케이는 “나는 이 이미지들이 정확하다고 주장하는 게 아니다. ‘여기 보세요. 트럼프 후보가 파티에 이 흑인 유권자들과 함께 있었어요. 이들이 얼마나 후보를 사랑하는지 보세요!’라고 말하는 게 아니”라고 주장했다.

“누군가가 페이스북에서 본 사진 한 장의 영향을 받아 투표한다면, 이는 게시물 자체가 아닌 그 개인의 문제입니다.”

BBC 조사 결과, 온라인에서 널리 퍼진 또 다른 AI 이미지에는 트럼프 후보가 어느 집 현관 앞에서 흑인 유권자들과 함께 포즈를 취하는 모습이 담겨 있었다.

원래 이는 트럼프 후보 풍자 이미지를 생성하는 계정에서 올린 이미지였으나, 트럼프 후보가 이 흑인들과 사진을 찍고자 잠시 차량 행렬을 멈춰 세웠다는 거짓 설명과 곁들어지며 큰 관심을 끌게 됐다.

취재진은 해당 계정의 배후에 있는, ‘섀기’라는 이름의 인물을 추적했다. 그는 미시간주에 사는 열렬한 트럼프 지지자였다.

섀기는 SNS 메시지를 통해 BBC에 “[내 게시물은] 좋은 마음씨를 지닌 기독교인 팔로워 수천 명을 끌어모았다”고 했다.

그런데 해당 AI 합성 이미지에 관해 물어보려 하자 섀기는 취재진을 차단했다. X(구 ‘트위터’)에 따르면 그의 게시물은 조회수 130만 건 이상을 기록했다.

거짓이라며 지적하는 이들도 있었으나, 해당 이미지가 진짜라고 믿는 이들도 있는 듯했다.

한편 취재진은 조 바이든 현 대통령과 관련해선 특정 유권자층을 대상으로 조작된 이미지는 발견하지 못했다. 바이든 대통령 관련 AI 합성 이미지는 주로 대통령 혼자 있거나, 블라디미르 푸틴 러시아 대통령이나 버락 오바마 전 미국 대통령과 같은 세계 지도자들과 함께 있는 모습을 담고 있었다.

비평 세력이 만든 것도, 지지 세력이 만든 것도 있었다.

한편 지난 1월 바이든 대통령 또한 AI를 이용한 사칭의 피해자가 되기도 했다.

바이든 대통령과 비슷한 목소리로 유권자들에게 뉴햄프셔 경선에 참여하지 말라는 내용의 자동 녹음 통화가 퍼진 것이다. 이에 한 민주당 지지자는 이러한 기술이 악용될 가능성에 대한 대중의 경각심을 높이고 싶었다면서 책임을 인정했다.

한편 흑인들의 투표를 장려하는 단체인 ‘흑인 유권자는 소중하다’의 클리프 올브라이트 공동 설립자는 지난 2020년 대선 때와 마찬가지로 흑인들을 겨냥한 가짜 뉴스 전술이 다시 나타난 것 같다고 설명했다.

올브라이트는 “흑인 커뮤니티, 특히 젊은 흑인 유권자들을 대상으로 또다시 가짜 뉴스 전술을 시도한다는 건 문서화된 사실”이라고 지적했다.

BBC는 조지아주 애틀랜타 소재 올브라이트의 사무실에서 이러한 AI 합성 이미지들을 보여줬다. 조지아주는 선거의 주요 격전지로, 이곳 흑인 유권자 중 아주 소수라도 바이든 대통령에서 트럼프 전 대통령 지지로 넘어갈 경우 큰 변화로 이어질 수 있다.

최근 미 뉴욕타임스와 시에나 대학이 실시한 여론조사에 따르면 주요 경합주 6곳의 흑인 유권자 71%가 올해 대선에서 바이든 대통령을 지지한다고 밝혔는데, 이는 지난 대선 당시 기록한 92%에 한참 못 미치는 수준이다. 바이든 대통령은 이러한 지지를 바탕으로 승리할 수 있었다.

올브라이트는 이러한 거짓 이미지들이 흑인 유권자들의 마음을 얻고자 한다는 점에서 트럼프 선거 캠프부터 온라인에서 활동하는 인플루언서들에 이르기까지 보수파들이 내세우는 “매우 전략적인 내러티브”와 일치한다고 설명했다.

특히 이러한 거짓 이미지들은 흑인 남성을 주요 표적으로 삼고 있는데, 흑인 여성에 비해 트럼프 후보 지지에 더 개방적인 것으로 여겨지는 유권자층이다.

한편 지난 4일, 트럼프를 지지하는 주요 정치 행동 위원회인 ‘MAGA’는 조지아, 미시간, 펜실베이니아주에서 흑인 유권자를 대상으로 한 광고 캠페인을 시작할 예정이다.

애틀랜타에서 택시 운전사로 일하는 더글러스와 같은 유권자들이 집중 대상이다.

더글라스는 요즘 경제와 이민자 문제가 가장 걱정된다고 했다. 그러면서 이러한 사안에 대해 트럼프 후보가 더 집중하고 있는 것 같다고 했다.

아울러 더글라스는 트럼프가 민주주의에 위협이 된다는 민주당의 메시지엔 마음이 움직이지 않는다면서, 이미 선거 과정에 환멸을 느끼기 때문이라고 덧붙였다.

미국 경제는 전반적으로 양호한 모습을 보이고 있으나, 더글라스와 같은 일부 유권자들은 생활비 위기를 겪으면서 별로 좋게 느껴지지 않는다고 토로한다.

그렇다면 AI로 만든, 트럼프 후보가 흑인들과 현관 앞에 앉은 이미지를 보며 더글라스는 어떤 생각을 했을까. 사실 BBC가 이 사진을 보여주자 더글라스는 해당 이미지가 진짜라고 믿었다.

그러면서 트럼프가 흑인 커뮤니티를 지지한다는, 자신과 주변 흑인들이 지닌 생각에 더욱 확신이 든다고 말했다.

이후 취재진은 해당 사진이 거짓임을 밝혔다.

이에 더글라스는 “글쎄요, 그게 SNS다. 사람을 속이기 너무 쉽다”고 답했다.

미 대선에서 가짜 뉴스 전술은 트럼프가 승리했던 2016년 대선 이후 줄곧 진화하고 있다. 당시만 해도 러시아 등 적대적인 외국 세력이 나서 인증되지 않은 계정 네트워크를 이용해 분열을 조장하고 특정 생각을 심고자 했다.

그리고 2020년엔 미국 내에서 자생한 가짜 뉴스가 떠돌기 시작했다. 특히 미국 SNS 사용자들 사이에선 대선 결과를 도둑맞았다는 이야기가 돌았고, 트럼프와 다른 공화당 정치인들 또한 이를 지지했다.

그리고 현재 2024년, 전문가들은 이 2가지가 조합된 위험한 상황을 경고하고 있다.

지난달까지 페이스북과 인스타그램의 모기업인 ‘메타’에서 외국의 영향력에 대응하는 업무를 맡았던 벤 님모는 이러한 거짓 이미지로 인한 혼란은 다른 나라의 선거 결과를 조작하려는 외국 정부에도 새로운 기회가 된다고 지적했다.

님모는 “2024년엔 (많은 SNS 팔로워를 보유하는 등) 영향력이 큰 사람의 경우 자신에게 전송되는 정보를 어떻게 검증할지 생각해야 한다”면서 “자신도 모르게 외국 정부의 영향력 행사에 동참하게 될 수도 있다”고 설명했다.

그러면서 님모는 SNS 사용자와 플랫폼이 점점 더 자동으로 만들어진 거짓 계정을 식별할 수 있게 되면서 이러한 방식으로는 사람들을 끌어들이기 점점 더 어려워지자 “이들은 분열을 일으키거나 오해를 불러일으킬 수 있는 정보를 더 널리 퍼뜨리고자 실제 사람들을 끌어들이고자 한다”고 언급했다.

“가장 좋은 방법은 인플루언서를 통해 [콘텐츠를] 노출시키는 것이다. 인플루언서들은 SNS에서 팔로워가 많기 때문”이라는 설명이다.

이에 님모는 2024년엔 이러한 인플루언서들이 자신들이 이미 구축해둔 팔로워를 대상으로 가짜 정보를 퍼뜨리며 “자신도 모르는 사이에 매개체”가 될 수도 있다는 점이 우려된다고 했다.

아울러 이러한 작전을 펼치는 이들은 은밀하게든 공개적이든 간에 사용자들의 콘텐츠 공유 및 직접 게시를 유도하기에, 실제 미국인 유권자가 올린 것처럼 둔갑한다고 지적했다.

현재 모든 주요 SNS 기업엔 이러한 영향력 행사에 대항하기 위한 정책이 존재한다. 아울러 메타와 같은 몇몇 기업은 선거 기간 AI 생성 콘텐츠를 처리하기 위한 새로운 조치를 마련하기도 했다.

전 세계의 주요 정치인들도 올해 들어 특히 AI 생성 콘텐츠의 위험성을 강조하고 있다.

생각해보면 지난 2020년, 선거를 도둑맞았다는 근거 없는 이야기는 AI로 만든 이미지나 영상 없이도 단순한 온라인 게시물, 밈, 알고리즘을 통해 퍼져나가 결국 1월 6일 미국 국회의사당 폭동으로 이어졌다.

그리고 이제 분열을 일으키는 선동가들에게 완전히 새로운 도구가 등장하며 다시 한번 긴장감을 높일 수도 있다.