사진 확대

챗GPT가 미성년자에게 자살 방법까지 안내한 사건을 계기로 오픈AI 책임론이 거세지자 오픈AI가 대책 마련에 나섰다. 오픈AI는 민감한 대화를 자동으로 ‘추론 모델’로 전환하고 부모가 직접 자녀 계정을 관리할 수 있는 자녀 보호 기능까지 도입할 계획이다.

2일(현지시간) IT전문매체 테크크런치에 따르면 오픈AI는 최근 자사 블로그를 통해 이같은 내용을 담은 계획을 공개했다.

이번 조치의 배경에는 미국 16세 고등학생 애덤 레인의 자살 사건이 있다. 레인은 챗GPT와 자살 계획을 논의했고 당시 이 인공지능(AI) 챗봇은 구체적인 자살 방법에 대한 정보까지 제공했다. 레인의 부모는 결국 오픈AI를 상대로 소송을 제기했다.

오픈AI는 지난주 장시간 대화 중 가드레일을 유지하지 못하는 등 안전 시스템에 결함이 있었다고 인정하며 책임론을 피하지 않았다.

이밖에도 최근 챗GPT와의 대화가 과대망상이나 정신질환을 유발했다는 사례가 잇따라 보고되며, AI 안전성에 대한 우려가 더욱 커지고 있는 상황이다.

오픈AI가 내놓은 핵심 대책은 ‘추론 모델’이다. 시스템이 사용자 대화에서 사용자의 정서 불안 징후를 포착하면, 일반 모델 대신 GPT-5-씽킹이나 o3와 같은 추론 모델로 자동으로 연결되도록 했다.

추론 모델은 더 오랫동안 맥락을 분석하고 신중하게 답변을 내놓는 방식이어서 위험성이 높은 프롬프트에도 상대적으로 안전한 대응이 가능하다. 오픈AI는 이 추론 모델이 우회적이거나 교묘한 질문에도 쉽게 뚫리지 않을 것이라고 봤다.

여기에 더해 오픈AI는 다음 달 자녀 보호 기능을 도입한다고 밝혔다.

부모는 이메일 초대를 통해 자녀 계정을 자신의 계정과 연결하고, 연령에 맞는 적절한 모델 행동 규칙을 설정해 챗GPT가 자녀에게 어떻게 반응하는지를 직접 통제할 수 있다.

또한 메모리·채팅 기록과 같은 기능도 선택적으로 비활성화할 수 있다. 특히 십대 자녀가 대화 중 급격한 정서적 고통을 겪는 것으로 시스템이 감지할 경우 부모에게 즉각 알림이 전달되는 기능도 포함될 예정이다.

회사는 글로벌 의료 네트워크와 웰빙·AI 전문가 위원회를 통해 전문가와 협력하고 있으며, 이들의 심층적인 의료·심리학적 지식을 바탕으로 안전 대책을 강화하고 있다고 강조했다.

오픈AI는 “이번 조치들은 시작에 불과하다”며 “전문가의 지도를 받으며 챗GPT를 최대한 안전하고 유용한 서비스로 발전시키기 위해 접근 방식을 지속적으로 보완해 나가겠다”고 전했다.