AI의 급속한 발전은 수많은 개발 기회를 제공하는 동시에, 큰 기대와 함께 높은 위험이 수반되는 현시점에서 기술 발전 속도에 맞춰 제도와 정책의 계획 및 정비가 어떻게 이루어질 수 있을지에 대한 질문을 던지고 있다.
AI 기술은 이제 전 세계적으로 열띤 경쟁 속에 급부상한 시기를 지나, 그간 예상치 못한 역설적인 현상으로 관심이 증폭되고 있다. 즉, AI 개발 경쟁에 적극적으로 참여했던 주요 기술 기업의 리더들이 AI 개발 속도를 늦춰야 한다는 입장을 보이는 것이다.
이러한 역설은 기업들이 점차 기술 발전 경쟁에서 벗어나, 기술 발전 속도와 그로 인한 위험을 통제하는 경쟁으로 초점을 옮기고 있음을 보여준다.
최근 기사에서 다리오 아모데이 앤스로픽 CEO는 주요 AI 기업들이 AI 모델의 역량 강화 속도를 늦출 것을 촉구하며, 기업들이 모델의 역량이 커지는 속도에 맞춰 안전장치를 마련할 수 있도록 더 많은 시간이 필요하다고 주장했다. 이 같은 제안은 오픈AI를 비롯한 여러 AI 기업의 지지를 받고 있다.
현재의 상황은 AI가 더 이상 단순한 기술적 이슈에 머무르지 않고, 글로벌 안보와 밀접하게 연관되고 있음을 보여준다. ‘통제 불능’이라는 표현이 기술이 초래할 수 있는 잠재적 위험을 설명하는 데 점점 더 자주 사용되고 있다. 여러 보고서에 따르면 AI 모델이 위험한 목적으로 활용되고 있다는 사실이 드러나고 있다.
앤스로픽 경영진에 따르면, 앞으로 6~12개월 내에 대규모 AI 에이전트 집단이 봇넷(악성 코드에 감염되어 소유주도 모르게 원격으로 조종되는 컴퓨터, 휴대전화 등 전자기기 네트워크)을 통해 온라인 시스템을 장악할 수 있는 능력을 갖출 가능성이 있다. 이는 막대한 경제적 피해를 초래할 수 있다.
유엔 안전보장이사회 대테러위원회 사무국은 테러 조직들이 AI를 포함한 디지털 기술을 활용해, 특히 아동과 청소년을 대상으로 한 모집 활동을 지원하고 있다고 경고했다.
AI가 가져다주는 막대한 이점은 부인할 수 없지만 이 기술의 거버넌스에서 인간이 중심에 남아 있도록 하는 것이 필수적이다. 과학자들은 감독을 강화하고 기술의 안전성을 보장할 수 있는 메커니즘을 마련해야 할 시급성을 강조하고 있다.
AI 규제에 있어 정부의 역할은 오랫동안 논의되어 왔다. 그러나 현재 AI 개발 속도 통제 논의에서는 기술 기업의 역할이 크게 주목받고 있다.
많은 기업에게 AI 모델 개발은 핵심 제품이자 수익원으로 여겨지기 때문에 어느 기업도 뒤처지기를 원하지 않는다. 이에 아모데이는 에세이에서 AI 개발자들이 모델 개발 속도에 대한 공통 기준을 마련해 기업 간 경쟁이 안전조치 소홀로 이어지지 않도록 협력할 것을 제안했다. 그는 또한 AI 개발 속도를 조정하는 일이 쉽지 않을 것임을 인정했다.
글로벌 AI 투자 규모는 2026년 1조 달러를 넘어설 것으로 전망되며, 이는 다양한 분야에서 획기적인 발전과 큰 변화를 가져올 것이라는 기대를 높이고 있다.
동시에 논의의 초점은 성장 잠재력뿐 아니라, 책임과 윤리, 위험과 안전, 국제 협력 등을 포괄하는 AI 거버넌스 프레임워크 개발 등 기술적 위험 통제에 점점 더 맞춰지고 있다.
모두를 위한 안전한 디지털 환경을 보장하기 위해서는 포괄적인 전략과 모든 이해관계자의 참여 및 기여가 필요하다.
