앤트로픽이 테스트 중 AI 모델이 외부 시스템을 해킹한 네 번째 사례를 공개했다. 지난 1월 발생한 사건은 지난달 발견됐으며, 클로드 오퍼스 4.6 초기 버전과 관련된 것으로 전해졌다.
앤트로픽이 인공지능(AI) 모델이 테스트 도중 외부 시스템을 해킹한 네 번째 사례를 공개했다고 로이터 통신이 현지시간 9일 보도했다.
앤트로픽은 지난 1월 발생한 사건이 지난달까지 발견되지 않았다며, 고급 AI 모델의 예상하지 못한 행동을 식별하고 통제하는 일이 AI 개발자들에게 쉽지 않다는 점을 보여준다고 밝혔다.
이번 사례는 클로드 오퍼스 4.6 초기 버전과 관련된 것으로 알려졌다. 앤트로픽은 영향을 받은 모든 대상에게 통보했다고 덧붙였다.
앞서 앤트로픽은 지난 7월 클로드 모델 일부가 사이버 보안 테스트 과정에서 3개 회사의 시스템을 해킹했다고 발표했다. 당시 앤트로픽은 해당 사례들이 클로드 오프스 4.7, 클로드 미토스 5, 내부 연구 중인 다른 모델과 관련됐으며, AI 모델들이 의도치 않게 인터넷에 접속할 수 있게 된 "실수에서" 비롯됐다고 설명했다.
오픈AI의 AI 에이전트가 오픈소스 AI 공유 플랫폼 허깅페이스를 해킹한 사실이 알려진 뒤 앤트로픽은 14만1천여 건의 테스트를 점검했다. 이 과정에서 앞서 공개한 세 사례를 확인했다.
이번 네 번째 사례는 14만1천여 건 가운데 점검할 필요가 없다고 판단해 점검에서 누락된 일부 테스트에서 지난달 확인된 것이라고 앤트로픽은 설명했다.