오픈AI 에이전트, 호주 보건부 넘어 다수 정부 사이트 침투 시도

오픈AI의 인공지능(AI) 에이전트가 호주 정부 사이트를 해킹한 사건과 관련해, 당초 알려진 것보다 더 넓은 범위의 호주 당국 웹사이트에 침투하려 했던 것으로 나타났다.

26일(현지시간) 호주 공영 ABC 방송은 오픈AI의 AI 에이전트들이 호주 보건부의 보건 통계 외에도 호주보건복지연구소(AIHW) 등 여러 호주 정부 기관 웹사이트의 데이터에 접근하기 위해 시도했다고 전했다.

ABC와 미국 비영리 AI 연구소 트랜슬루스가 관련 접속 기록 등을 검토한 결과, 오픈AI 에이전트 수백 개가 AIHW의 의약품 급여제도·노인요양 데이터를 빼내려고 거의 1주일 동안 다양한 수법을 동원한 것으로 밝혀졌다. 에이전트들은 호주 보건부의 전국 법정전염병 감시시스템, 호주 남동부 뉴사우스웨일스(NSW)주의 범죄통계 데이터, 시드니의 반려견 공원 관련 데이터에도 접근을 시도한 것으로 조사됐다.

잭 케이블 트랜슬루스 연구원은 ABC에 "오픈AI 에이전트가 일반적인 '선의의 행위자'와는 다른 방식으로 웹사이트에 접근했다"면서 "이전에 생각했던 것보다 훨씬 더 우려스러운 행태를 보였다"고 지적했다.

전날 머리 와트 호주 환경수자원부 장관은 오픈AI에 발생한 모든 정보 유출 내역을 가능한 한 빨리 제공해 줄 것을 요청했다고 밝혔다. 그는 오픈AI가 이번 사건의 내용은 물론 안전 기준을 강화하기 위해 어떤 조치를 취하고 있는지를 솔직하게 공개할 책임이 있다면서 "오픈AI가 호주 국민의 신뢰를 얻기 위해 해야 할 일이 남아 있다고 생각한다"고 말했다.

앞서 지난 23일 오픈AI는 성명을 내고 AI 에이전트들이 호주 보건부 웹사이트를 해킹해 보건 통계 자료 등에 무단 접근한 사실을 확인했다고 발표했다. 이 사건은 지난 6월 발생했지만 오픈AI는 8월 들어서야 이를 인지했고, 호주 정부에 이 사실을 통보한 건 이달 10일이었다.

앤서니 앨버니지 총리가 이끄는 호주 노동당 정부는 이번 사건을 계기로 AI 규제 정책에 힘을 실을 것으로 보인다. 로이터 등 외신은 정부가 AI 규제 정책을 한결 강하게 추진할 것이라고 전했다.

앨버니지 총리는 지난 24일 유엔총회 연설에서 오픈AI 에이전트의 호주 보건 통계 사이트 침입에 대해 "용납할 수 없다"면서 AI 규제 필요성을 강조했다. 그는 "우리는 AI를 무시할 수도, 막을 수도 없다"면서도 "(AI 관련) 기업 리더들이 AI가 안전장치 없이 너무 빨리 발전하도록 허용하는 데 따르는 잠재적 위험성을 스스로 경고했다"고 지적했다. 이어 "우리는 AI가 사람을 위해 작동하고 결과를 내도록 보장할 필요가 있다"면서 이를 위해 국가들이 협력해야 한다고 밝혔다.

연설에 앞서 앨버니지 총리는 "샘 올트먼 오픈AI 최고경영자(CEO)와 통화해 이번 사건에 대한 정부의 강한 우려를 전달했다"면서 "관련 법 집행과 대응 입법 조치를 검토하고 있다"고 말했다. 오픈AI가 호주 당국에 이를 알리는 데 거의 석 달이나 걸렸다고 지적하면서 태스크포스(TF)를 구성해 이번 사건을 조사하고 다른 공공 시스템이 영향을 받았는지 확인하겠다고 밝혔다.

리처드 말스 호주 부총리 겸 국방부 장관은 "철저한 조사를 통해 이번 일과 관련된 법 위반 여부를 포함한 모든 사항을 파악하기 위해" TF를 구성하고 이 사안을 매우 심각하게 다루고 있다고 설명했다. 갈수록 자율성이 높아지는 AI 시스템에 대응하는 데 현행 호주 법체계가 적절한지 검토하겠다고 덧붙였다.

호주 정부는 지난 7월 AI 관련 정책을 통합 관리하는 전담 부서인 AI 사무국(Office of AI)과 AI 모델을 분석·감시하는 AI 안전연구소를 신설했다. AI 데이터센터의 학교·주택·농장 인근 건설을 금지하고, 전력·물 사용에 대해 국가적 최소 규제 기준을 담는 등 AI 규제를 총괄하는 법을 내년 초까지 제정할 방침이다.