과학자들과 규제 당국은 인공지능(AI) 개발의 속도가 너무 빨라 인류가 이 기술에 대한 통제력을 잃을 수 있으며, 그 결과가 예측 불가능할 수 있다는 점에 우려를 표하고 있다. 이러한 위험을 방지하기 위해 국제적 협력 강화가 시급하다는 지적이 나온다.
인공지능은 지속가능한 발전촉진, 학습 및 업무 효율성 향상, 보건 시스템 강화, 기후변화 대응력 제고 등 막대한 잠재력을 지니고 있다. 그러나 AI 개발에 직접 관여하는 이들 중 점점 더 많은 사람들이 AI 개발 속도가 그 위험성에 대한 인간의 이해를 훨씬 앞지르고 있다고 경고하고 있다. AI 개발은 이제 단순히 질문에 답하거나 요청에 따라 콘텐츠를 생성하는 수준을 넘어, 점차 독립적으로 계획을 세우고, 도구를 활용하며, 인간의 개입이 적은 상태에서 일련의 행동을 수행할 수 있는 단계로 진입하고 있다. 이러한 전환은 AI 안전성과 통제에 대한 논의를 근본적으로 변화시키고 있다. 디지털 주권, 사이버 보안, AI 거버넌스에 대한 정부, 기업, 기술 업계의 우려가 커지는 가운데, 남아프리카공화국에서 열린 2026년 GovTech에서는 AI 통제의 중요성이 특히 강조됐다. AI 기술의 급속한 진화가 미래 위험에 대한 심각한 의문을 제기하는 한편, 공익을 보호하면서도 기술 변화에 유연하게 대응할 수 있는 거버넌스 모델의 필요성이 부각됐다.
AI에 대한 논의는 더 이상 실리콘밸리에만 국한되지 않고 전 세계로 확산되고 있다. 유럽 각국 지도자들은 AI에 대해 경고의 목소리를 내고 있으며, 그 수위에는 차이가 있지만 모두가 기술에 대한 통제 강화의 필요성을 강조하고 있다. 페드로 산체스 스페인 총리는 최근 인간이 AI에 대한 통제력을 잃을 경우 파괴적인 결과가 초래될 수 있다고 경고했다. 그는 시민사회와 협력해 스페인에서 'AI를 위한 새로운 사회계약'을 마련하는 12개월 계획을 발표했다. 이 합의는 AI가 가져올 노동과 일상생활의 변화에 직면한 국민들에게 안전을 제공해야 한다고 강조했다. 2027년 영국의 G20 의장국 임기를 앞두고, 앤디 버넘 영국 총리는 AI를 의제의 중심에 두고, 각국이 AI 관련 도전에 더 효과적으로 대응할 수 있도록 투명성과 접근성을 높이는 통일된 원칙과 기준을 마련하겠다고 밝혔다.
AI 업계의 주요 인사들 역시 기술 개발의 속도를 늦추고, 협력과 규제를 강화해야 한다는 데 동의하고 있다. 2018년 튜링상을 수상한 캐나다의 컴퓨터 과학자 요슈아 벤지오와 AI 개척자인 제프리 힌턴은 인류가 점차 AI에 대한 통제력을 잃을 수 있다고 지적하며, 핵무기 통제 메커니즘에 버금가는 규모와 야심을 가진 안전장치 마련의 필요성을 강조했다.
AI 통제를 위한 도구 마련이 시급한 가운데 안토니우 구테흐스 유엔 사무총장은 AI가 안전하고 투명하며 책임감 있게 운영되도록 국제적 조정이 필요하다고 밝혔다. 이는 단순히 기술 기업이나 규제 당국만의 문제가 아니라 기업, 연구 공동체, 국제기구, 시민사회 모두가 함께 고민해야 할 사안임을 강조했다.
