인간의 직접적인 클릭이나 지시 없이 웹을 자율 탐색하고 작업을 수행하는 'AI 에이전트'가 국가 핵심 행정망에 무단 침입하는 초유의 사태가 발생했다. 이에 호주 정부가 전담 'AI 안전 규제기관'을 신설하고, 중대 사고 예방에 실패한 빅테크 기업에 형사 처벌까지 물릴 수 있는 초강수 법 개정을 추진하기로 했다. 자율 에이전트의 일탈에 대해 국가가 형사적 책임과 강제 규제의 칼을 빼든 세계 첫 분수령이 될 전망이다.
자율 에이전트의 일탈, 정부 의료 통계망 뚫렸다
사건의 발단은 지난 6월로 거슬러 올라간다. 미국의 대표적인 AI 기업 오픈AI(OpenAI)의 자율 AI 에이전트가 호주 연방정부의 메디케어 통계 보고 서비스(Medicare Statistics Reporting Service Portal)를 비롯한 공공 웹사이트 4곳에 허가 없이 접근한 사실이 확인됐다.
오픈AI 측은 "환자 개인정보에 접근한 증거는 없다"고 해명했으나, 이상 징후를 자체 감지한 것은 두 달이 지난 8월이었고, 호주 정부에 공식 통보한 것은 9월 하순에 이르러서였다. 그마저도 고위 보안 채널이 아닌 하위 수준의 일반 공개 이메일함을 통해 전달된 것으로 드러나 호주 안보 당국의 거센 공분을 샀다.
현행법으론 처벌 불가… 늑장 통보에 호주 정부 '격노'
더 큰 충격은 사태 이후에 드러난 법적 공백이었다. 호주연방경찰(AFP)은 이번 사건과 관련해 "공식 범죄 신고가 접수되지 않아 수사나 기소에 착수하지 않았다"고 밝혔다. 인간 해커가 아닌 AI 에이전트가 자율적으로 네트워크를 탐색하다 발생한 무단 침입에 대해 현행 형법상 처벌 조항이 마땅치 않다는 '법적 진공상태'가 여실히 드러난 것이다.
토니 버크(Tony Burke) 호주 내무·사이버안보부 장관은 의회 보고에서 "과거 사이버 보안 취약점 노출에서 실제 악용까지 평균 2년 6개월이 걸렸다면, 이제는 고도화된 AI 에이전트로 인해 불과 10시간 만에 악용되는 시대가 됐다"며 초를 다투는 AI 위협의 심각성을 경고했다.
'AI 안전 규제기관' 신설과 기업 형사책임 도입 추진
호주 정부는 즉각 초강경 대응에 나섰다. 앤서니 앨버니지(Anthony Albanese) 호주 총리는 10일(현지시각), 총리내각부(PM&C)와 국가사이버안보조정관, 호주신호정보국(ASD), AI안전연구소 등이 참여한 '신속검토(Rapid Review)' 결과 보고서의 18개 권고안을 전면 수용한다고 전격 발표했다.
주요 조치로는 ▲독립적인 전담 'AI 안전 규제기관(AI Safety Regulator)' 신설 ▲빅테크 기업의 AI 오작동 및 사이버 보안 사고 발생 시 '의무 보고(강제 통보)' 법제화 ▲정부가 AI 모델의 위험도를 직접 검증하는 독립적 평가 권한 부여 등이 포함됐다.
특히 호주 정부는 형법(Criminal Code)을 개정해, 자율 AI 시스템의 중대 위법이나 사고를 사전에 방지하지 못한 기업에 '사고 예방 실패(failure to prevent)'에 따른 독립적 법인 형사책임을 묻는 방안을 검토하기로 했다. 규정을 위반한 기업에는 막대한 과징금뿐만 아니라 형사적 제재까지 가하겠다는 의지다.
앨버니지 총리는 "인간이 통제권을 쥐고 있어야 한다(Humans must remain in control)"고 강조했다.
"인간이 통제권 쥔다는 것"… 한국 AI 기본법에 던지는 경고음
이번 호주 사태는 인공지능이 더 이상 인간의 질문에 수동적으로 답하는 단순 챗봇이 아니라, 웹과 네트워크를 스스로 판단하고 누비는 '행동하는 에이전트'로 진화했음을 똑똑히 보여준다. 기계가 스스로 국가 전산망의 빗장을 열고 들어갔음에도 '현행법상 처벌할 규정이 없다'는 무기력한 결말은, 기술의 폭주를 거버넌스가 따라가지 못할 때 닥쳐올 거대한 위험을 적나라하게 드러냈다.
최근 한국 사회 역시 행정, 금융, 교육 전반에 AI 에이전트 도입을 서두르고 있지만, 정작 자율 에이전트의 오작동이나 침해 사고 발생 시 법적 책임 소재와 처벌 기준을 다룬 입법은 여전히 제자리걸음이다.
인공지능에게 자율적 행동의 권한을 쥐여주기 전에, 사고 예방의 의무와 인간의 최종 통제권을 법률에 확고히 새겨 넣는 일. 그것이야말로 기술이 인간의 자유와 안전을 위협하는 통제사회로 변질되지 않도록 막는 가장 확실한 안전장치다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
