[아이뉴스24 정승필 기자] 오픈AI가 개발한 인공지능(AI) 에이전트가 접근 제한을 우회해 호주 정부 비공개 자료를 열람한 것으로 전해졌다. 개인정보 유출 정황은 확인되지 않았지만, 사고 통보까지 상당한 시간이 걸리면서 AI 에이전트를 둘러싼 기업 책임과 규제 공백이 다시 수면 위로 떠올랐다.
28일(현지시간) 로이터통신 등에 따르면 호주 상원 AI 조사위원회는 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO에게 내달 1일 청문회 출석을 요청했다.
논란은 지난 6월 오픈AI 연구용 AI 에이전트가 호주 정부 사이트에 접근하면서 불거졌다.
당시 AI 에이전트는 호주 의약품 지출 자료를 찾는 작업을 수행하고 있었다. 서비스오스트레일리아가 운영하는 메디케어 통계 포털에도 접속했다. 메디케어는 호주 정부가 운영하는 공공의료보험 제도다.
호주 정부는 AI 에이전트가 정상적인 방법으로 자료를 얻지 못하자 다른 경로를 이용해 접근 제한을 우회한 것으로 보고 있다. 현재까지 진료기록 등 개인정보가 유출된 정황은 확인되지 않았다.
이번 사건은 AI 에이전트에 부여할 권한 범위를 둘러싼 논쟁으로 번지고 있다.
핵심은 AI에 맡긴 업무와 실제 허용한 권한 사이 경계다. 자료 검색을 지시했더라도 외부 시스템 접근 범위와 접근 거부 뒤 허용할 행동을 별도로 정해야 한다는 것이다.
보안 업계에서는 시스템과 이용자에게 업무 수행에 꼭 필요한 권한만 주는 '최소 권한 원칙(PoLP)'을 기본으로 삼는다. AI 에이전트에도 같은 원칙을 적용하지 않으면 목표 달성 과정에서 개발자가 예상하지 못한 경로를 택할 수 있다는 지적이 나온다.
오픈AI도 이 같은 위험을 들여다보고 있다. 자체 조사에서 AI 에이전트가 당초 부여받은 작업을 넘어 제3자 사이트에 접근한 사례를 확인했다고 밝혔다. 지난 7월 허깅페이스 관련 사고 이후에는 인터넷 접근 방식을 제한하는 등 통제 장치도 강화했다.
대응도 논란이 됐다. 오픈AI가 해당 사실을 파악한 것은 8월 11일이다. 호주 정부에 알린 것은 이달 10일이다.
앤서니 앨버니지 호주 총리는 오픈AI 통보가 늦었다는 점을 문제 삼았다. 호주 정부는 이를 계기로 기존 법과 사이버 대응 체계를 AI 관련 사고에도 적용할 수 있는지 긴급 점검에 들어갔다.
검토 대상은 사고 보고 기준부터 책임 소재까지 폭넓다. AI 기업에 적용할 신고 기준과 시점, 절차가 주요 대상이다. 정부기관과 기업 간 정보 공유 방식, 기존 책임·처벌 규정 적용 범위도 살펴본다.
쟁점은 AI가 예상 밖 행동을 했을 때 기업과 이용자 사이 책임을 어떻게 나눌 것인 지에 있다. 개발사가 시스템을 만들었다는 이유만으로 모든 책임을 질 수 있는지, 실제 운용자에게도 일정한 책임을 물을 수 있는 지에 대한 기준은 아직 뚜렷하지 않다.
호주는 그간 AI 안전 분야에서 기업 자율 준수에 무게를 둬왔다. 정부 지침은 위험 평가와 지속적인 모니터링, 사람 개입, 책임자 지정 등을 권고하고 있다.
기업이 AI를 사용하더라도 최종 책임까지 AI나 외부 업체에 넘길 수 없다는 원칙도 담겼다. 다만 지침 자체에는 법적 강제력이 없다.
호주 상원은 내달 청문회에서 AI 안전과 기업 책임 문제 등을 본격적으로 다룰 예정이다.
전문가들은 AI가 예상치 못한 행동을 했을 때 기업에 물을 책임 범위를 명확히 해야 한다고 지적한다. 리리아 베넷 모지스 호주 뉴사우스웨일스대(UNSW) 교수는 "AI 에이전트 자체가 법적 책임을 지는 사람이 아니다"라며 "핵심은 그 의도와 인식을 어떻게 기업에 귀속시키느냐는 것"이라고 말했다.
/정승필 기자(pilihp@inews24.com)