저커버그 "AI 안전은 자율책임"…아모데이 속도조절 제안과 대비

인공지능(AI) 개발 속도조절 논쟁에 침묵해온 마크 저커버그 메타플랫폼 최고경영자(CEO)가 AI 모델의 안전을 담보하기 위해 외부 평가·자문을 활용해 각자 자율 책임 아래 개발해야 한다는 취지의 입장을 내놨다.

저커버그 CEO는 16일 엑스(X)에 "모든 AI 연구소는 모델을 안전하게 학습시키는 데 필요한 속도로 움직일 책임과 유인이 있으며 이를 보장할 자체 조치를 취할 역량을 갖고 있다"고 밝혔다.

그는 "메타는 안전과 보안에 집중하기 위해 뮤즈(Muse) 출시를 몇 달간 미뤘다. 단지 사람들과 우리를 위해 분명히 옳은 일이었기에 일상적인 업무의 하나로 그렇게 한 것이다. 우리가 구축한 보안 기반에 자부심을 느낀다"고 말했다.

이어 "독립적인 평가자와 자문위원을 참여시키는 건 업계의 모범사례다. 메타슈퍼인텔리전스랩스(MSL)가 이미 여러 분야에서 이렇게 하고 있다. 왜냐면 더 나은 결과물을 만드는 데 도움이 되기 때문"이라고 덧붙였다. 그러면서 "다른 연구소들도 그냥 이렇게 하면 된다"며 "전반적으로 평가기관 생태계가 더 크고 다양한 평가자 생태계가 있다면 도움이 될 것"이라고 했다.

그는 "재귀적 자기개선을 향해 질주하기보다 압도적 다수의 컴퓨트(연산자원)를 사람들에게 서비스하는 데 쓰는 것이 이 기술을 안전하게 개발하는 최선의 방법 중 하나"라며 "메타는 이런 약속을 했고 다른 연구소들도 할 수 있다"고 말했다.

저커버그의 이런 입장 표명은 AI 최상위 5개 기업 중 가장 늦은 참전이다. 앞서 다리오 아모데이 앤트로픽 CEO가 지난 12일 선도 AI 기업들의 자발적 안전기준 공조와 개발속도 조절을 제안하자 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO, 데미스 하사비스 구글 딥마인드 CEO 모두 이 제안에 공개 동조한 바 있다.

저커버그의 발언은 '외부 평가를 활용해 각자 스스로 책임지자'는 의미로 해석돼 아모데이 CEO의 제안에 동의하지 않는 것으로 보인다. 이는 저커버그가 지난달 발표한 에세이 '모두를 위한 미래'에서 밝힌 방침을 재확인한 것이다.

당시 저커버그는 "사람들은 자신과 어긋나거나 요청한 대로 움직이지 않는 에이전트를 쓰고 싶어 하지 않을 것이므로, 연구소들은 모델을 더 정합적으로 만들 강한 유인을 갖고 있다"며 "역량 개발을 안전성이 따라잡을 때까지 늦춰야 한다는 논쟁이 많지만, 신뢰와 정합성이야말로 에이전트·모델을 가르는 가장 중요한 역량이 되고 있다"고 말했다. 그는 모델 피해에 따른 법적 책임 부담도 연구소들이 안전을 신경 쓸 유인이라고 짚었다.