딥마인드 퇴사 연구원도 “AI가 우리를 죽일 잠재력 있다” 경고

최근 구글 딥마인드를 떠난 인공지능(AI) 연구원 빌랄 추그타이가 “AI가 우리를 죽일 수 있는 잠재력을 지녔다고 진심으로 믿고 있다”고 경고했다.

추그타이는 14일 엑스(X)에 “구글에서 저는 AI 개발을 목격했다. 저 역시 이 기술의 기본 방향성에 대해 극도로 우려한다”며 이같이 적었다. 그는 자신이 AGI 안전과 정렬(alignment) 리서치 업무를 맡았다고 소개했다.

정렬은 AI 모델이 인간에게 위협이 되는 행동을 거부하도록 하는 것과 관련된 업무다.

앞서 이달 초 앤트로픽의 AI 개발자 제이컵 콕슨도 사직하면서 앤트로픽과 오픈AI가 “우리의 목숨을 걸고 도박하고 있다. 초지능 AI를 향해 질주하고 있다”고 비난했다. 그는 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 했다.

이후 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI 개발 속도 조절을 촉구했다. 아모데이 CEO는 AI 발전 과정을 “1, 2, 4, 8, 16, 32”로 이어지는 곡선에 빗대며 현재는 곡선이 “가팔라지기 시작하는” 단계에 있다고 말했다.

그는 “오늘 당장 패닉에 빠질 필요는 없고, 전부 셧다운할 필요도 없다”면서도 “그럼에도 이는 우리가 속도를 늦춰야 한다는 경고 신호”라고 밝혔다.

샘 올트먼 오픈AI CEO는 엑스에서 “다리오가 말한 대로 우리가 프론티어의 속도를 조절해야 한다는 데 동의한다”고 했다. 일론 머스크 스페이스X CEO도 아모데이의 게시글을 공유하며 “다리오가 맞다”고 밝혔다.

데미스 허사비스 구글 딥마인드 CEO 역시 엑스에 “다리오의 에세이는 옳은 방향을 가리키고 있다”며 “세부 사항은 다듬어야겠지만, 이런 중대한 순간에 맞는 올바른 방향”이라고 적었다.

AI 개발을 둘러싼 경쟁을 벌여온 주요 기업 경영진이 잇따라 속도 조절에 동의하면서 개발 속도를 둘러싼 논쟁은 AI 업계와 정치권으로 확산하고 있다.