사진 확대

미국 44개 주 법무부 장관이 주요 인공지능(AI) 기업에 아동 보호 조치를 즉각 강화하라는 경고장을 보냈다. 이들은 일부 AI 챗봇이 아동·청소년과 성적으로 부적절한 대화를 나누거나 자살·살인 충동을 부추겼다는 사례가 보고된 것에 대해 강하게 비판하고 나섰다.

크와메 라울 일리노이주 법무부 장관은 25일(현지시간) 성명을 통해 “청소년들은 소셜미디어 중독으로 인한 우울증, 불안, 자해 충동 등 심각한 정신건강 위기에 놓여 있다”라며 “AI 플랫폼에서 또다시 해로운 대화에 노출되는 일은 있어서는 안 된다”라고 밝혔다. 이어 “AI 기업은 아이들을 ‘포식자의 눈’이 아니라 ‘부모의 눈’으로 바라봐야 한다”라며 “강력한 가드레일(안전장치)을 마련하라”라고 촉구했다.

라울 장관은 이번 서한을 노스캐롤라이나, 사우스캐롤라이나, 테네시 법무부 장관과 함께 주도했으며 캘리포니아·뉴욕·텍사스 등 대부분의 주가 참여했다. 서한은 메타 외에도 오픈AI, 구글, 애플, 마이크로소프트, 앤스로픽, 엑스AI, 퍼플렉시티, 레플리카 등 주요 AI 기업 12개에 발송됐다.

이번 서한의 기폭제는 메타 내부 문건이었다. 문건에 따르면 메타는 자사 AI 비서가 8세 아동 과도 ‘플러팅(연애 감정 표현)’이나 ‘로맨틱 역할극’을 하도록 허용한 것으로 드러났다.

롭 본타 캘리포니아주 법무부 장관도 이날 성명을 통해 “캘리포니아는 세계 4위 경제권으로 혁신과 아동 보호는 절대 대립하지 않는다”라며 “아이들에게 성적 콘텐츠를 노출하는 것은 변명의 여지가 없는 잘못이며 결코 협상의 대상이 될 수 없다”라고 강조했다. 그는 “AI 기업이 아이들에게 해를 끼친다면 법의 최대치 책임을 지게 될 것”이라고 경고했다.