인공지능(AI)의 등장은 어린이들을 예측 불가능한 요소들 앞에 놓이게 하며, 이들을 보호할 “방패”의 필요성을 시급하게 만들고 있다.
극단주의 이념의 확산, 폭력 선동, 사기 등 유해 정보가 소셜미디어, 동영상 플랫폼, 메신저 앱, 온라인 게임 등 어린이와 청소년이 일상적으로 접하는 공간에서 점점 더 많이 나타나고 있다.
극단주의 단체들은 종종 어린이의 심리적·정서적 요인을 악용하는 한편, 디지털 플랫폼의 알고리즘을 활용해 영향력을 확대하고 극단주의 이념을 퍼뜨리며, 이는 어린이들에게 심각한 위협이 되고 있다. 이러한 상황에서, 어린이들이 사이버 공간에서 폭력 행위나 극단주의 이념에 빠지지 않도록 예방하는 특화된 교육 프로그램 개발이 필요하다.
어린이들의 무분별하고 광범위한 인터넷 사용이 미치는 부정적 영향을 줄이기 위해 호주, 인도네시아, 말레이시아, 대한민국 등 여러 정부는 어린이의 인터넷 사용을 제한하는 규제 도입이나 소셜미디어에 대한 연령별 금지 조치를 검토하거나 제안하고 있다.
유럽연합(EU) 집행위원회 위원장은 전문가 그룹에 7월까지 미성년자 온라인 보호를 위한 EU의 조치 방안, 소셜미디어 사용 금지 가능성 등을 보고하도록 지시했다.
그러나 소셜미디어의 전면적 금지는 문제의 근본 원인을 해결하지 못하기 때문에 최적의 해법이 아니라는 지적이 나온다. 전문가들은 연령 제한에만 집중할 경우 플랫폼의 설계와 알고리즘은 바뀌지 않는다고 주장한다. 실제로 금지 조치는 쉽게 우회될 수 있어, 오히려 어린이들이 더 위험하고 감독이 덜한 플랫폼으로 옮겨갈 수 있다.
또한 과도한 통제는 어린이의 디지털 역량과 독립적 사고력 발달을 저해할 수 있다. 특히 소셜미디어가 청소년들의 관계 형성 및 정보 접근에 중요한 역할을 하는 만큼, 이러한 점이 더욱 부각된다.
따라서 보호 조치는 청소년의 온라인 행동과 상호작용 습관에 맞게 변화해야 한다. 어린이들이 점점 더 어린 나이에 인터넷에 노출되고 있는 만큼, 온라인 위험을 식별하고 스스로를 보호하는 역량을 갖추게 하는 것이 점점 정교해지는 온라인 학대 피해를 줄이는 핵심 요소로 여겨진다.
아울러, 사이버 공간 관리에 대한 기술 기업의 책임도 강화되어야 한다. 유엔 인권최고대표사무소가 발표한 ‘아동 온라인 보호를 위한 10대 원칙’은 아동 데이터의 최고 수준 보호를 보장한다.
지침에 따르면, AI 챗봇 사용이나 중독성 있는 설계 등 새로운 이슈는 연령 제한의 적용을 받아야 하며, 아동의 권리가 침해될 경우 구제 절차에 접근할 수 있도록 해야 한다.
볼커 튀르크 유엔 인권최고대표에 따르면, 각국은 기술 기업이 제품 설계 단계부터 아동 안전 기능을 통합하도록 요구해야 한다. 이는 아동을 겨냥한 유해 온라인 행위가 디지털 플랫폼의 설계 선택과 비즈니스 모델에서 비롯되기 때문이다. 자동 재생 동영상이나 지속적인 알림과 같은 기능은 아동의 위험 노출을 높일 수 있다.
사이버 공간의 이점과 잠재적 위험이 공존하는 현실에서 인터넷 사용은 어린이들에게 “양날의 검”이 되고 있다. 그 어느 때보다도 어린이들에게 온라인 환경에서 보호받을 수 있는 효과적인 방패가 필요하다. 전문가들은 부모와 어린이를 위한 디지털 역량 교육이 시급한 우선순위로 고려되어야 한다고 강조한다.
