중국, 불법 AI 콘텐츠 단속 강화…9만8000개 1인 미디어 제재

중국 정부가 생성형 인공지능(AI) 콘텐츠의 급증에 대응하기 위해 본격적인 규제 및 단속을 강화하고 있다. 중국 인터넷 규제 당국인 인터넷정보판공실(CAC)은 5일 관영 영자지인 차이나데일리를 통해 9만8000개의 1인 미디어 계정을 제재했다고 발표했다. 이들 미디어는 출처를 밝히지 않고 AI가 생성한 콘텐츠를 이용하여 각종 뉴스와 정보를 제공하고 있어 문제가 되고 있다.

1인 미디어 ‘쯔메이티’는 주로 위챗 및 웨이보와 같은 소셜 미디어 플랫폼에서 활동하는 개인 혹은 소규모 독립 운영자의 콘텐츠 채널을 의미한다. 최근 이들 중 상당수가 AI 콘텐츠 생성을 활용하여 조회 수를 인위적으로 늘리는 방식으로 운영되고 있다는 사실이 밝혀졌다.

중국의 또 다른 규제 기관인 국가시장감독관리총국(SAMR)은 AI 관련 온라인 광고 분야에 대한 첫 번째 전방위 제재 조치를 6개월에 걸쳐 시행할 것이라고 밝혔다. 지난해 중국의 온라인 광고 시장은 약 7930억 위안, 한화로 약 170조 원에 달하며, 큰 비중을 차지하는 바이트댄스, 텐센트, 알리바바와 같은 테크 기업들의 입김이 강한 상태이다.

당국은 AI 오남용 및 자동화 봇을 이용한 트래픽 왜곡이 새로운 위험으로 등장했다고 설명하며, "시스템적이고 대대적인 단속이 시급하다"고 강조했다. 이번 단속은 규제 강화, 신규 광고 형태 감독, 모니터링 기술 개선, 콘텐츠 기준 강화 등 5가지 방안을 포함하고 있다. 또한, 밈봇에 의해 생성된 허위 정보는 지난해 춘제 기간 동안 70만8000건 이상 삭제되기도 했다.

한편, 바이트댄스는 AI 생성 영상에 출처 명시가 없어 제재를 받은 사례도 있다. 이와 관련해 유통되는 앱인 캡컷, 파일 공유 서비스인 캣박스, 이미지 생성 AI 드리미나가 저작권 및 관련 규정을 위반했다고 지적 받았다. 바이트댄스는 틱톡의 중국 버전인 더우인에서 저작권을 침해한 AI 영상 53만8000개를 삭제하고 4000여 개 계정에 대해 제재를 가한 바 있다.

결국, 생성형 AI 콘텐츠에 대한 중국 정부의 주의가 더욱 강화되고 있는 만큼 관련 기업들도 향후 콘텐츠 규정을 준수하기 위한 노력을 더욱 강화해야 할 것으로 보인다. AI의 발전과 함께 발생하는 법적, 윤리적 문제들에 대한 논의는 앞으로도 계속될 전망이다.