[아이뉴스24 정승필 기자] 인공지능(AI) 성착취물과 딥페이크 우려가 커지면서, 유엔총회에서 아동용 AI 출시 전 안전 점검 방안이 논의됐다. 한국 등 20여 개국은 사전 평가와 승인 절차 도입을 장기 과제로 검토하고 있다.
22일(현지시간) 유엔과 프랑스 대통령실 등에 따르면 'AI 시대의 아동 권리와 보호를 위한 연합(Coalition for Children’s Rights and Protection in the Age of AI)'은 미국 뉴욕에서 열린 제81차 유엔총회 기간 회의를 열고 2026~2027년 행동계획을 공개했다.
연합은 지난 7월 스위스 제네바에서 열린 '제1차 유엔 AI 거버넌스 글로벌 대화((UN Global Dialogue on AI Governance)'를 계기로 출범했다. 프랑스와 스페인, 케냐가 주도했다.
목표는 AI 개발과 이용 과정에서 아동의 안전과 권리를 보호하는 것이다. 각국 정부와 유엔기구, 기술기업, 시민사회 등이 관련 기준과 정책을 함께 논의하고 정보를 나눈다.
한국은 연합 출범 때부터 참여했다. 일본과 캐나다, 브라질, 이탈리아 등도 이름을 올렸다. 유니세프와 유네스코, 국제전기통신연합(ITU), 유엔 인권최고대표사무소 등 유엔기구도 참여하고 있다.
유엔총회에서 공개된 행동계획에는 아동이 사용하는 AI의 안전성을 미리 점검하는 방안이 담겼다.
연합은 아동에게 도움을 준다고 내세우는 AI 서비스에 대해 장기적으로 출시 전 승인 절차를 두는 방안을 제시했다. AI가 아동에게 어떤 영향을 주는지 살펴볼 공통 기준도 만들 계획이다.
AI 개발사가 모델과 관련 자료를 외부 연구자에게 공개해 점검을 받도록 하는 방안도 포함됐다. 개인정보 보호와 안전 문제를 AI를 만드는 단계부터 살피고, AI로 만든 아동 성착취물과 딥페이크에도 함께 대응하기로 했다.
에마뉘엘 마크롱 프랑스 대통령은 회의에서 소셜미디어(SNS)의 부작용을 뒤늦게 확인했던 사례를 언급했다. AI에서는 같은 문제가 되풀이되지 않도록 미리 대응해야 한다는 취지다.
마크롱 대통령은 "아동에게 AI를 제공하기 전에 시험과 평가가 필요하다"고 강조했다.
AI가 아동에게 미칠 영향을 걱정하는 목소리도 나오고 있다.
로이터통신은 이날 구글의 신뢰·안전 조직을 이끌었던 톰 시겔이 AI가 소셜미디어보다 아동에게 더 큰 피해를 줄 수 있다고 경고했다고 보도했다.
시겔은 AI에 지나치게 의존하면 스스로 생각하고 판단하는 힘이 떨어질 수 있다고 지적했다. 일부 이용자에게는 정신건강에 좋지 않은 영향을 줄 수도 있다고 했다.
그는 "기술기업이 스스로 만든 규칙에만 맡겨서는 충분하지 않다"며 "연령 확인과 외부 안전 점검을 강화할 필요가 있다"고 말했다.
한편, 연합은 오는 11월 프랑스 파리에서 열리는 파리평화포럼에서 기업과 정부가 참여하는 자율 이행 방안을 공개할 예정이다.
/정승필 기자(pilihp@inews24.com)