AI 안전 평가실 인력, 英 200명·美 34명인데 한국은 6명뿐

초고성능 인공지능(AI) 모델이 인류에게 위협이 될 수 있다는 이른바 ‘AI 위협론’이 부상하는 가운데, 국내 AI 안전을 위한 인력과 예산은 턱없이 부족한 수준인 것으로 나타났다.

국회 과학기술정보방송통신위원회 소속 더불어민주당 이정헌 의원이 과학기술정보통신부와 인공지능안전연구소(AISI)에서 제출받은 자료에 따르면, AISI ‘AI 안전 평가실’의 전체 인원은 7명이다. 이 가운데 법제·규범 담당 1명을 제외하면 실제 AI 모델의 안전성을 기술적으로 평가하는 인력은 6명뿐이다. 자료 집계 시점은 의원실 공개 기준 27~28일이다.

주요국과 비교하면 격차가 크다. 영국은 관련 인력이 약 200명이다. 미국은 현재 34명 규모에서 80명까지 늘릴 방침이다. 일본은 현재 31명인 연구소 인력을 올해 60명까지 늘리는 것을 시작으로 최종 200명까지 확충하겠다는 계획이다.

AISI는 과학기술정보통신부 산하 한국전자통신연구원(ETRI)의 부설 연구소로, 올해 89억 원의 예산이 투입될 예정이다. 국내 AISI는 AI 위험 정의와 안전성 평가 프레임워크 개발, 실제 AI 안전 평가, 평가 인프라 구축 등을 담당하며 AI안전평가실을 비롯해 AI안전정책및대외협력실, AI안전연구실 등으로 구성돼 있다.

영국과 미국은 각각 약 1216억 원, 232억 원의 예산이 배정된 상태다. 일본은 약 34억 원 규모로 편성돼 있던 예산을 지난해 추경을 통해 크게 늘려 추가로 800억 원을 투입한 바 있다.

국내 연구소의 자체 보유 장비도 열악한 수준이다. 영국은 15억 파운드(약 2조7000억 원) 상당의 정부 ‘컴퓨트’(AI 연산 자원) 최우선 배분권을 갖고 있다. 한국 AISI는 AI 그래픽처리장치(GPU) 서버 5대를 보유하고 있지만 조 단위 파라미터(변수) 규모를 가진 최상위 모델들을 활용하기에는 역부족인 것으로 알려졌다. GPU 서버 부족으로 2대는 민간 클라우드 서버를 임차 중이라, 제약에서 벗어난 ‘언센서드(Uncensored) 모델’의 검증에도 한계가 명확하다는 지적이다. 현안 대응에 급급한 만큼 체계적인 중장기 로드맵을 가동하는 것도 사실상 불가능하다는 지적도 나온다.

이에 따라 AI 기본법 개정을 통해 국내 AISI도 독립 기구화해야 한다는 주장이 제기된다. 부설 연구소 체제에선 최고 수준의 보안 전문가 채용이 어려울뿐더러 독립적인 규제와 감독권 행사가 어렵다는 취지다. 현행 AI 기본법상 과학기술정보통신부 장관의 중지명령이나 시정명령을 이행하지 않은 사업자에게 과태료가 최대 3000만 원에 불과해 글로벌 빅테크 기업을 제재할 수단이 없다는 문제점도 있다.

이정헌 의원은 “가시화된 위협에 대응하기 위한 AI 안보 체계 구축을 위해 AI 기본법 개정이 필요하다”며 “AISI에 법적 독립성을 부여하고 독자적인 예산과 인사권을 보장해 실질적인 대응 역량을 강화해야 한다”고 강조했다.

이어 “글로벌 빅테크를 상대로 실효성이 부족한 과태료만으로는 국민 안전을 충분히 담보하기 어렵다”며 “위협 발생 시 통제와 시정 조치가 작동할 수 있도록 제재 수단을 현실화하고 국가 차원의 AI 안보 거버넌스를 구축해야 한다”고 말했다.