이란·중국·이스라엘, AI 에이전트로 여론 조작…팔로워 8만명 확보

미 일간 뉴욕타임스(NYT)는 18일(현지시간) 이란과 중국의 국가 세력, 이스라엘의 민간 기업들이 인공지능(AI)을 활용한 자율형 여론 조작을 소셜미디어에서 펼쳤다고 보도했다. NYT가 인용한 미 당국자들과 보안 전문가들에 따르면 이들 세력은 자유롭게 다운로드하고 수정할 수 있는 중국의 오픈소스 AI 모델을 활용해 스스로 특정 과업을 수행하는 봇인 에이전트를 만들었다. 수백 개의 AI 에이전트는 인스타그램, 페이스북, X, 틱톡 같은 플랫폼에서 가짜 계정을 자율적으로 생성한 뒤 정치·시사 이슈 관련 허위 게시물을 빠르게 유포했다.

계정 생성부터 콘텐츠 제작, 메시지 유포 및 조율에 이르는 여론 조작 활동의 모든 단계를 AI 에이전트가 전담한 것은 사실상 최초 사례에 속한다고 미 당국자들은 전했다. 이 과정에서 인간의 개입은 최소한으로 이뤄졌다. 중국과 이란의 캠페인은 국가 주도였고, 이스라엘의 캠페인은 민간 기업이 주도한 것으로 추적됐다. 특히 미국 대중을 직접 겨냥한 이란의 경우 AI 에이전트가 생성한 가짜 계정들이 미국 주요 도시에 거주하는 평범한 시민으로 위장했다. 이들 계정은 기자와 정치인을 태그하며 인기 밈과 반공화당 성향 의견을 유포했고, 올해 상반기 활동으로 모은 팔로워만 약 8만 명에 이른다.

보안 전문가들은 이번 활동의 기술적 완성도가 아직 조잡한 수준이지만, 공개된 오픈소스 AI 모델이 사실상 스스로 온라인 여론 조작을 수행하는 데 악용될 수 있다는 점을 입증했다고 평가했다. 일부 미 당국자는 오는 11월 중간선거를 앞두고 미국 투표자들을 겨냥해 유사한 시도가 이뤄질 수 있다고 우려했다. 조지타운대 안보·신기술센터의 카일 크라이튼 연구원은 기술이 계속 발전하면서 AI 에이전트 주도형 여론 조작 시도가 더 흔해질 것이라고 내다봤다.

다만 크라이튼 연구원은 향후 에이전트가 단순한 스케일 확장을 넘어 실제 인간 사용자처럼 자연스럽게 섞이는 정교함을 갖추게 될 것이라고 설명했다. 앞서 페이스북과 인스타그램을 운영하는 메타도 AI를 동원한 이란의 선전 공작을 차단했다고 지난달 말 발표한 바 있다. 이번에 확인된 AI 에이전트의 구체적인 작동 방식과 각 세력의 최종 정치적 목표, 실제 선거 결과에 미칠 영향은 아직 확인되지 않았다.