AI법, 첨단 사기 통제체계 구축...적발땐 형사처벌·손해배상

AI 기반 사기, 점점 더 정교해지고 탐지 어려워져

최근 당국은 AI를 활용한 사기 수법이 증가하고 있다며 지속적으로 경고하고 있다. 가장 흔한 유형은 음성, 이미지, 영상 위조 기술(딥페이크)이다. 소셜미디어에서 단 몇 초간의 데이터만 수집해도 AI는 가족, 친구, 기관장, 비즈니스 파트너의 목소리를 거의 똑같이 재현할 수 있다. 이를 통해 급박한 송금 요청, 거래 승인, 민감한 정보 제공 등을 요구하는 전화를 걸 수 있다.

여기서 그치지 않고, AI는 각 피해자에게 ‘맞춤화’된 정교한 내용의 가짜 이메일, 메시지, 웹사이트를 생성하는 데도 활용된다. 계정 인증, 보안 경고, 환불, 경품 안내 등은 매우 전문적으로 제시되어, 사용자를 실제와 거의 구분이 안 되는 가짜 웹사이트로 유도해 비밀번호, OTP 코드, 은행 카드 정보를 탈취한다.

특히, 소셜미디어를 통한 투자 및 금융 사기가 급증하고 있다. 범죄자들은 AI로 금융 전문가나 유명인의 가짜 이미지와 영상을 만들어 ‘초고수익’, ‘제로 리스크 보장’ 프로젝트를 홍보한다. 일부 AI 챗봇은 24시간 내내 상담과 대화를 제공하도록 프로그래밍되어 있어, 전문적이고 신뢰할 만한 인상을 주며 피해자들이 점차 돈을 입금하도록 유도한다.

이러한 수법의 공통점은 신뢰, 긴박감, 그리고 정보를 제대로 확인하지 않는 사용자의 습관을 노린다는 것이다. 이런 상황에서 요구되는 것은 단순히 대중의 인식 제고에 그치지 않고, AI 사용을 통제할 수 있는 충분히 강력한 법적 틀을 마련하는 것이다.

첨단기술 사기 방지 위한 법적 틀

AI 남용에서 발생하는 위험을 통제하기 위해, 2026년 3월 1일부터 시행되는 ‘AI법 2025’는 AI 기반 사기 방지를 직접적·간접적으로 겨냥한 엄격한 규제 체계를 마련했다.

우선, 법은 금지 행위를 명확히 규정하고 있다. 제7조에 따르면, AI를 이용해 사람을 사칭하거나 조작, 기만하는 행위는 절대적으로 금지된다. 특히, 실제 인물이나 사건의 요소를 위조 또는 모방해 고의로 인간의 인식과 행동을 속이거나 조작하는 행위는 엄격히 금지된다. 이 조항은 딥페이크 음성 사기, 지도자·가족·파트너를 사칭해 송금을 요구하거나 자산을 편취하는 가짜 영상에 직접적으로 대응할 수 있는 법적 근거를 제공한다.

동시에, 법은 사회 질서와 안전에 심각한 해를 끼칠 수 있는 가짜 콘텐츠의 생성 및 유포도 금지한다. 여기에는 AI가 생성한 영상, 이미지, 허위 정보 등을 통한 대중 사기가 포함된다.

행위 금지 외에도, 법은 AI 콘텐츠와 시스템의 투명성을 요구한다. AI법 2025 제11조에 따르면, 사용자는 챗봇, 가상 비서, 자동화 고객 서비스 시스템 등 AI 시스템과 상호작용할 때 이를 명확히 안내받아야 한다.

아울러, AI가 생성한 음성, 이미지, 영상은 실제 인물의 외모나 목소리, 실제 사건을 모방하는 경우 특히 쉽게 인식할 수 있도록 표시·라벨링해야 한다. 이는 매우 사실적인 가짜 전화, 영상통화, 콘텐츠에 속는 위험을 줄이기 위한 중요한 규정으로 평가된다.

AI법은 위험 관리 관점에서도 사기에 대응한다. 제9조에 따르면, AI 생성 콘텐츠를 사용자가 구분하지 못해 혼란이나 조작을 유발할 수 있는 AI 시스템은 ‘중위험’으로 분류된다. 이러한 시스템은 자유롭게 운영될 수 없으며, 통지, 감독, 관계 당국의 점검 등 요건을 준수해야 한다.

AI 시스템이 피해를 야기하거나 그 위험이 있을 경우, 법은 관리 당국에 시스템의 중단 또는 회수를 요구할 권한을 부여하며, 개발자·제공자·운영자는 결과 극복과 당국 보고에 협조해야 한다. 이 메커니즘은 AI 도구가 대규모 사기에 악용될 때 조기 개입을 통해 피해 확산을 제한할 수 있다.

AI법 2025는 점검, 위반 처리, 손해배상 메커니즘도 마련했다. 이에 따라 관리 당국은 책임 규명을 위해 기술 자료, 시스템 로그, 관련 데이터를 요구할 수 있다. 또한, AI를 이용한 사기 행위는 행정 처분이나 형사 처벌 대상이 될 수 있으며, 가해자는 피해자에게 손해를 배상해야 한다.

이와 같은 규제 체계로 AI법은 AI의 안전하고 책임 있는 개발·활용을 촉진할 뿐만 아니라, 디지털 시대에 급증하는 첨단기술 사기를 예방하는 중요한 법적 기반을 마련한다.

(이 기사는 하이테크 범죄 예방 코너의 일환으로 LuatVietnam.vn의 데이터 및 법률 정보를 활용해 작성되었습니다.)