EU, AI 생성 콘텐츠에 'AI 생성 표기' 의무화 시행

유럽연합(EU)이 인공지능(AI) 생성 콘텐츠에 대한 'AI 생성 표기'를 의무화하는 새로운 규제를 2일 현지 시간으로 공식 시행했다. 이번 조치는 AI가 만들어 낸 콘텐츠에 명확한 출처를 표시하고, 사용자가 AI 시스템과 상호작용할 때 이를 사전 고지해야 한다는 내용을 포함하고 있다. EU는 이를 통해 소비자들이 제공되는 콘텐츠에 대한 이해를 높이고, 기만적인 정보 전파를 줄이겠다는 목표를 세우고 있다.

EU의 이 같은 규제는 2024년에 시행될 'AI법'(AI Act)의 일환으로, AI 사무국을 구성하여 시행의 효율성을 기할 계획이다. 이 사무국은 기술 전문가, 변호사, 경제학자 등으로 구성된 수십 명의 인력으로 이루어져 있으며, AI 모델이 법규를 준수하는지를 감시할 예정이다. 만약 기업이 규정을 위반할 경우, EU 집행위원회는 시정 명령을 내리고, 이행하지 않을 경우에는 과징금을 부과할 수 있는 권한을 가지게 된다. 이러한 과징금은 기업 연간 매출의 최대 7% 또는 3400만 유로(약 562억원) 중 큰 금액으로, 기존 AI 시스템에 대한 법 적용은 오는 12월 2일까지 유예되었다.

AI법 시행의 일환으로, 오는 12월부터는 선정적인 딥페이크 생성 AI 시스템이 금지된다. 이 조치는 일론 머스크의 AI 챗봇 '그록'이 개인의 동의 없이 나체 이미지를 생성해 사회적 논란을 일으킨 사건에 대한 반응으로 도입되었다. 고위험 AI 모델에 대한 규제는 내년 12월부터 시행될 예정으로, 기업들에게 준비할 시간적 여유를 주기 위한 조치이다.

EU 집행위원회 부위원장인 헤나 비르쿠넨(Henna Virkkunen)은 "AI법의 시행은 사람들의 올바른 선택을 돕고, 기만과 조작을 감소시키기 위한 것"이라고 강조했다. 그는 "AI는 유럽 시민과 기업에게 많은 혜택을 줄 수 있는 혁신적 기술이지만, 부적절한 사용은 큰 위험을 초래할 수 있다"며 철저한 법 집행의 필요성을 말했다.

한편, 이 같은 EU의 AI 규제에 대해 미국의 반발이 예상된다. 과거 도널드 트럼프 미국 행정부는 EU의 규제가 미국의 빅테크 기업에 대한 압박이라는 불만을 표명한 바 있다.