AI의 빠른 발전에 대한 윤리적 우려…"진화 속도 조절 필요"

글로벌 인공지능(AI) 기업 앤스로픽은 AI 기술의 급속한 발전이 심각한 윤리적 문제를 야기할 가능성을 경고하며, 속도 조절의 필요성을 강조했다. 그들은 최근 블로그 포스트에서 AI가 스스로 진화할 수 있는 이른바 '재귀적 자기 개선' 단계에 근접하고 있다는 우려를 표명했다. 이는 AI가 인간의 개입 없이 자율적으로 자신의 구조와 알고리즘을 수정할 수 있는 능력을 의미한다.

앤스로픽의 공동 창립자인 잭 클라크와 연구소 책임자인 마리나 파바로는 이러한 빠른 발전이 사회적 요구와 맞물리지 않으므로, '최첨단 AI 개발 속도를 늦추거나 일시적으로 중단해야 한다'고 주장했다. 이를 위해 국제사회가 AI 개발 속도를 조절하는 공동의 합의에 도달하고, 기업들이 이를 준수하는지 검증할 수 있는 체계를 구축해야 한다고 강조했다.

AI는 이제 스스로 프로그래밍하면서 결함을 찾아내고 수정할 수 있는 능력으로 발전하고 있다. 이를 잘 보여주는 사례가 글로벌 AI 기업 오픈AI의 프로그래밍 모델 '코덱스'이다. 오픈AI는 코드가 스스로 결함을 찾고 개선할 수 있는 속도를 높일 수 있었음을 증명했으며, 앤스로픽 또한 자사의 AI 모델로 코딩을 진행하고 있는 상황이다.

AI의 발전이 인간 사회에 미칠 수 있는 부정적 영향에 대한 우려는 커지고 있으며, 이에 대한 윤리적 논의가 활발히 이루어지고 있다. 교황 레오 14세는 AI의 무장 해제와 통제를 요구하며 기술 소유자가 AI를 통치 도구로 사용하는 것을 반대해야 한다고 성명했다. 그는 인류가 또 다른 바벨탑을 세우지 않도록 경계해야 한다고 주장하였다.

앤스로픽은 교황의 입장에도 공감한다. 공동 창립자 크리스토퍼 올라르는 AI 연구소가 이익과 도덕적 가치 사이의 갈등 속에서 운영되고 있기 때문에, 이를 감시할 외부의 윤리적 목소리가 필수적이라고 강조했다. 그는 윤리적 목소리가 어떤 이익에도 휘둘리지 않도록 보장해야 한다고 덧붙였다.

AI의 윤리적 논의는 앞으로 기술 발전의 방향성을 결정하는 중요한 요소가 될 것으로 보인다. 현재 AI 기술의 빠른 진화는 전 세계적으로 다양한 분야에 영향을 미치고 있으며, 그에 따라 사회적 요구와 윤리가 함께 조화롭게 발전해 나가야 할 시점이다.