실리콘밸리가 있는 미국 캘리포니아주가 인공지능(AI) 챗봇과 사회관계망서비스(SNS)의 아동·청소년 보호를 강화하는 규제 패키지법을 제정했다.
美 캘리포니아, 아동 AI 규제법 제정…위험 감지되면 부모에게 알려야
개빈 뉴섬 캘리포니아 주지사가 아동·청소년 보호를 골자로 한 13개 법안 패키지에 서명했다. 핵심인 '애덤법'은 AI 챗봇이 자해 등 위험 징후를 감지하면 긴급 위기 대응 프로토콜을 작동시키고 부모에게 알리도록 의무화한다.
11일(현지시간) 캘리포니아주에 따르면 개빈 뉴섬 주지사는 아동·청소년 보호를 골자로 한 13개 법안 패키지에 서명했다.
이번에 제정된 법 가운데 핵심은 '애덤법'(Adam's Law)이라는 별칭이 붙은 AI 챗봇 규제법이다.
오픈AI 챗GPT를 사용하다 스스로 목숨을 끊은 캘리포니아주 16세 소년 애덤 레인의 이름을 딴 이 법은 AI 챗봇이 자해 등 위험 징후를 감지할 경우 긴급 위기 대응 프로토콜이 작동하도록 하고 부모에게도 이를 알리도록 의무화했다.
기업은 AI 출시 전에 독립적인 아동 안전 감사와 연례 위험 평가를 실시하도록 규정했다.
캘리포니아주는 SNS 플랫폼이 16세 미만 이용자에게 무한 스크롤, 자동 재생, 이용행태 기반 알고리즘 게시물 배치 등 중독 유발 기능을 제공하는 것도 금지했다.
AI 챗봇을 탑재한 장난감을 제조하거나 판매하는 것은 4년간 금지되며, AI로 만든 아동 성착취물(CSAM)에 대한 처벌 범위도 대폭 확대했다.
뉴섬 주지사는 "기술 혁신이 빨라지면 우리의 보호 조치도 발맞춰 가야 한다"며 "캘리포니아주는 규제되지 않은 기술이 아동을 위험에 빠뜨리는 것을 방관하지 않겠다"고 이번 법 제정의 배경을 설명했다.