한국에서 발생한 기괴한 AI 현상, 외신의 지적이 이어졌다

최근 한국 사회에서 생성형 인공지능(AI)의 급속한 대중화로 인해 가상과 현실 간의 경계가 모호해지고 있다는 외신의 분석이 나왔다. 홍콩 사우스차이나모닝포스트(SCMP)는 '실재감 결핍: 한국은 어떻게 AI에 대한 현실 감각을 잃었나'라는 제목의 기사에서 이러한 현상을 조명했다. 특히, 한국의 AI 콘텐츠 사용이 세계 최고 수준임에도 불구하고 사회적인 안전장치가 부족하다는 점이 지적되었다.

기사에서는 최근 SNS에서 화제가 된 '야구장 여신' 영상을 예로 들었다. 이 5초 분량의 영상은 프로야구 경기 중 관중석에 앉아 있는 여성의 모습을 담고 있으며, '평균적인 한국 여성'이라는 제목으로 퍼져 단기간에 1500만 회 이상의 조회수를 기록했다. 그러나 이 여성은 실제 인물이 아닌 AI로 생성된 가짜임이 드러났다. 팬들은 전광판에 나온 구도와 잘못 기록된 응원 문구를 통해 이 사실을 밝혀냈다.

AI가 사회적 안전에 미치는 위험성을 보여주는 또 다른 사례로는 최근 대전에서 발생한 늑대 탈출 소동이 있다. 당시 SNS에서는 늑대가 카메라에 포착된 듯한 이미지가 빠르게 확산되었고, 이 이미지가 재난 대응 당국의 주민 대피 공문에 영향을 미쳤으나 결국 그것도 생성형 AI로 만들어진 합성 사진이라는 사실이 밝혀졌다. 이로 인해 이미지 제작자인 한 남성은 공무집행방해 혐의로 경찰에 체포되었다.

SCMP는 한국이 'AI 슬롭(AI slop)' 콘텐츠 소비가 전 세계에서 가장 활발한 국가 중 하나라고 분석했다. AI 슬롭은 클릭 수를 유도하기 위해 대량 생산된 저품질 AI 콘텐츠를 지칭한다. 하나의 사례로, 글로벌 영상 편집 플랫폼 카프윙(Kapwing)에서는 한국의 AI 슬롭 유튜브 채널 11개의 누적 조회수가 약 84억5000만 회에 달한다고 보고했다.

게다가, 한국에서도 텔레그램을 통한 대규모의 딥페이크 성범죄 사건이 발생하며 AI의 악용 가능성이 더욱 부각되었다. 이 사건은 미성년자와 여성들의 얼굴을 합성한 불법 이미지가 대규모로 유포되면서 사회에 큰 충격을 안겼다.

김명주 한국AI안전연구소 소장은 SCMP와의 인터뷰에서 "우리는 외모와 이미지에 대한 문화적 관심이 높은 한국 사회에서 AI가 억눌린 욕망을 충족시키는 왜곡된 거울 역할을 하고 있다"라고 말했다. 그는 과도한 현실 도피가 삶의 만족도를 떨어뜨리는 악순환을 초래할 수 있음을 우려했다.

결론적으로 SCMP는 한국이 세계에서 생성형 AI 기술 수용 속도가 가장 빠르지만, 여전히 규제와 윤리적 논의는 미비하다고 지적하며 이를 해결하기 위한 사회적인 노력이 필요하다고 강조했다.