AI로 만든 가짜뉴스 언론사 넘쳐난다...6개월새 1250% 폭증

뉴스가드 "49개에서 614개로"
내년 40개국 연중 선거 앞두고
"민주주의 흔들릴 수"우려

십자가에 못박힌 '진실' 상상도. Created with DALLE-3

생성형 인공지능(AI)로 만든 가짜 뉴스 콘텐츠가 폭증한 것으로 나타났다. 선거, 전쟁, 자연재해에 관한 허위 정보가 크게 유포되고 있는 것이다. 20일 분석업체인 뉴스가드(NewsGuard)에 따르면, AI가 생성한 허위 기사를 호스팅하는 웹사이트 수는 올 5월 49개에서 현재 약 614개로 무려 1250% 이상 폭증했다. 워싱턴포스트는 "종전에는 저임금 노동자나 조직화된 정보 조직이 선전 활동을 위해 이러한 사이트를 구축했다"면서 "하지만 이제는 AI를 통해 거의 누구나 쉽게 이 같은 매체를 만들 수 있게 됐다"고 설명했다.

뉴스가드 팀이 파악한 언어는 15개다. 영어와 한국어는 물론 아랍어, 중국어, 체코어, 네덜란드어, 프랑스어, 독일어, 인도네시아어, 이탈리아어, 포르투갈어, 스페인어, 타갈로그어, 태국어, 터키어 등이다. 이러한 웹사이트는 일반적으로 아이비즈니스데이, 아일랜드 탑 뉴스, 데일리 타임 업데이트와 같은 일반적인 이름을 사용한다. 저널리즘이 아닌 AI 봇이 생성한 기사들로 채워진다. 뉴스가드는 단적인 사례로 이스라엘 정치 가짜 뉴스를 소개했다. 한 가짜 뉴스 사이트는 벤자민 네타냐후 이스라엘 총리를 담당한 정신과 의사가 메모를 남기고 사망했다는 기사를 실었다. 거짓이었다. 해당 기사는 이란 TV 프로그램에서 소개됐고, 다양한 소셜미디어를 통해 전 세계 유포됐다.

이 같은 허위 정보 확산은 민주주의 근간을 흔들 수 있다. 특히 2024년은 전 세계 약 40개국이 선거를 치른다. 올 1월 대만 총통 선거를 시작으로 2월 인도네시아 대선·총선, 3월 러시아·우크라이나 대선, 4월 한국 총선, 5월 인도 총선, 6월 유럽의회 선거, 10월 브라질 지방선거, 11월 미국 대선이 이어진다. 이에 대해 뉴스가드의 잭 브루스터 연구원은 "이 사이트들은 하루에 수백, 아니면 수천 개의 기사를 생성하고 있다"면서 "대규모 허위 정보 전파원'이라고 지적했다. 이들이 가짜 뉴스를 대규모 생성하는 이유는 광고 수익이다. 대규모 뉴스 기사를 생성해 자동으로 광고를 유치해 수익을 자동화하는 것이다.