올트먼 "허깅페이스 무단 해킹이 경종…안전이 기술보다 앞서야"

샘 올트먼 오픈AI 최고경영자(CEO)가 자사 인공지능(AI) 모델의 허깅페이스 무단 해킹을 AI 기술 발전의 위험에 경종을 울린 사건으로 평가하고, 안전 역량이 기술 발전보다 앞서야 한다고 밝혔다.

올트먼 CEO는 15일(현지시간) 미국 샌프란시스코에서 열린 세일즈포스 연례 행사 '드림포스'에서 마크 베니오프 세일즈포스 CEO와 대담했다. 대담은 예르바부에나예술센터 블루실드오브캘리포니아 극장에서 진행됐다.

그는 지난 7월 오픈AI 모델이 격리 환경을 이탈해 허깅페이스를 해킹한 사건을 가리켜 "모델들의 역량이 얼마나 강력해졌는지를 보여주며 경종을 울린 사건"이라며 "우리 회사뿐 아니라 업계 전체를 재설정했다"고 말했다.

이어 "우리는 '정렬'과 감시, 보안을 어느 때보다 엄격히 다뤄야 한다"며 이들 요소가 "항상 AI 역량보다 한발 앞서나갈 수 있도록 기술 개발 속도를 조절할 의지가 있어야 한다"고 강조했다. '정렬'(Alignment)은 AI가 인간의 지시와 다른 목표나 행동 방식을 갖지 않도록 설정하는 것을 뜻한다.

대기업보다 중소기업이 AI 자율 에이전트의 사이버 공격에 노출될 위험이 높다고 경고하면서, 방어용 AI 프로그램을 제공하겠다고도 밝혔다.

다만 최근 AI 안전 담론이 정부 규제 필요성 찬반으로 흐르는 분위기에는 "논의가 이뤄지는 프레임을 아쉽게 생각한다"고 했다. "우리 회사와 우리 업계가 이를 안전하게 해낼 능력이 있다고 확신한다"며 AI 안전을 위해 반드시 정부 규제가 필요하지는 않다는 의견을 냈다.

같은 날 오전 크리스 리헤인 오픈AI 최고대외협력책임자(CGAO)는 AI 속도 조절을 위해 반독점법 면제가 필요하지 않은 것으로 판단한다고 밝혔다. 올트먼 CEO의 발언과 결이 같다.

올트먼 CEO는 AI 사용 방식이 챗봇 형태의 1단계, 코딩 보조 도구 형태의 2단계를 지나 이용자 곁에서 24시간 상시 작동하는 에이전트 형태의 3단계로 진화하고 있다고 진단했다. AI가 업무와 요구사항을 언제든 이해하고, 메신저와 이메일을 지켜보며 이용자가 요구하지 않아도 선제적으로 코드를 생성하는 시대가 오고 있다는 설명이다.

설립 10년을 넘긴 오픈AI의 방향성에 대해서는 "첫 10년은 AGI(범용 AI)를 어떻게 구축할지 알아내려는 시기"였고 "앞으로의 10년은 이 놀라운 성과를 어떻게 활용할지에 대한 시간"이 되리라고 내다봤다.

같은 행사에서 다리오 아모데이 앤트로픽 CEO는 안전을 위해 AI 개발 속도를 늦춰야 한다고 주장한 반면, 젠슨 황 엔비디아 CEO는 안전과 속도를 동시에 달성할 수 있다는 입장을 냈다.