하루에 수천 개의 가짜 뉴스 기사를 만든 중국 기업이 처벌받아
최근 허위정보 단속에서, 중국 MCN(멀티채널네트워크) 기업이 하루에 4,000개에서 7,000개의 가짜 뉴스 기사를 만들어낸 혐의로 처벌을 받았습니다. 실제 운영자인 왕씨는 첨단 AI 소프트웨어를 이용하여 이러한 거짓 내용을 만들어냈습니다. 음성 상호작용이 가능한 AI 소프트웨어에 키워드를 입력하면 인터넷에서 관련 정보를 자동으로 수집하고, 수백 단어에서 천 단어 이상에 이르는 텍스트를 생성하며, 이를 완전히 허구적인 이미지와 짝지었습니다. 이렇게 만들어진 오해를 불러일으키는 기사들은 여러 온라인 플랫폼에 퍼뜨려져, 하루 1만 위안(약 1,400달러)의 수익을 올렸습니다. 조사 결과, 왕씨는 유언비어 유포, 사실 왜곡, 사회 질서 교란 등의 혐의로 유죄 판결을 받았습니다. 그 결과 5일간의 행정 구류 처벌을 받았고, 관련 MCN 기업은 영업 중단과 필요한 시정 조치를 받게 되었습니다.
핵심 내용
- 규모와 영향력: MCN 기업은 하루에 4,000개에서 7,000개의 가짜 뉴스 기사를 생성했습니다.
- 재정적 이득: 이 기업은 이러한 활동을 통해 하루 1만 위안 이상의 수익을 올렸습니다.
- 법적 결과: 왕씨는 5일간의 행정 구류 처벌을 받았으며, 기업은 영업 중단과 시정 조치를 받았습니다.
분석
중국 MCN 기업의 사례는 AI 주도의 허위정보 위협이 날로 커지고 있음을 보여줍니다. 인적 개입을 최소화하고도 설득력 있는 가짜 콘텐츠를 대량 생산할 수 있다는 점은 규제 당국과 플랫폼 모두에게 큰 과제입니다. 이는 트위터와 틱톡 등 인기 소셜미디어 플랫폼에서 벌어지는 허위정보 문제와도 유사합니다. 트위터에서는 사실과 다른 뉴스가 진실한 정보보다 더 빨리 퍼지고 더 많은 사용자에게 도달하는데, 이는 주로 인간 사용자의 행동 때문입니다. 급성장하며 바이럴 콘텐츠가 강세인 틱톡 역시 유사한 문제를 겪고 있으며, 외국의 영향력 문제도 대두되고 있습니다.
소셜미디어 기업들이 AI 기반 탐지, 팩트체크 제휴, 콘텐츠 표시 등의 노력을 기울이고 있지만, 이러한 조치의 효과성은 아직 제한적입니다. 사용자들 사이에서는 이러한 플랫폼의 뉴스 정확성에 대한 불만이 큰 편입니다. 온라인 담론의 복잡성과 규모로 인해 관리가 어려운 상황이며, 전문가들은 이 문제가 개선되기 전에 더 악화될 수 있다고 예측합니다.
알아두면 좋은 점
- 인간 요인: 트위터에서 거짓 뉴스가 진실한 뉴스보다 70% 더 빨리 리트윗되는데, 이는 주로 자동화된 봇이 아닌 인간의 행동 때문입니다.
- 재정적 동기: 중국 MCN 기업의 AI를 통한 가짜 뉴스 생산은 단순히 허위정보 확산만을 위한 것이 아니라, 하루 1,400달러 이상의 큰 수익을 올리기 위한 것이었습니다.
- 대중의 우려: 서구에서는 소셜미디어 뉴스 사용자의 40%가 플랫폼의 부정확성을 주요 우려사항으로 지적하고 있으며, 이는 전년도에 비해 증가한 수치입니다.
- 플랫폼의 대응: 페이스북(메타)은 정치 콘텐츠 노출을 낮추는 반면, 트위터(현 X)는 엘론 머스크 체제하에서 정치 콘텐츠 확대를 추진하는 등 허위정보 대처 방식이 상이합니다.
AI 생성 가짜 뉴스의 급증은 보다 효과적인 허위정보 대응 전략이 시급함을 보여줍니다. 동서양 사회 모두가 이 문제에 직면하고 있는 만큼, 기술 기업, 정부, 사용자 간의 협력이 허위정보의 확산과 영향력을 최소화하는 데 필수적입니다.