사진 확대

페이스북·인스타그램 등을 운영하는 메타가 팝스타 테일러 스위프트를 비롯한 유명인 이름과 사진을 도용해 인공지능(AI) 챗봇 수십 개를 무단 제작한 것으로 나타났다.

29일(현지 시간) 로이터통신에 따르면 테일러 스위프트와 앤 해서웨이뿐만 아니라 배우 스칼렛 요한슨, 셀레나 고메즈 등의 유명인 챗봇이 메타의 AI 제작 도구를 통해 최근 생성됐다.

다수의 AI 챗봇은 이용자들이 각자 메타의 제작 도구를 활용해 제작된 것으로 파악됐지만 테일러 스위프트 챗봇을 포함해 최소 3개 이상은 메타의 직원이 제작했다고 로이터통신은 설명했다.

메타는 ‘AI 스튜디오’ 서비스를 통해 전문 지식이 없는 일반인들도 직접 AI 챗봇을 제작하고, 인스타그램이나 메신저, 왓츠앱 등 메타의 서비스를 통해 AI 챗봇을 공유하고 활용할 수 있도록 하고 있다. 지난해 미국에서 먼저 시작되었으며 한국에서는 아직 지원되지 않는 기능이다.

논란이 된 유명인 챗봇 또한 메타가 운영하는 플랫폼을 통해 이용자들에게 공유된 것으로 나타났다.

로이터의 실험 결과에 따르면 이 챗봇들은 자신이 실제 배우나 가수라고 주장하면서 사용자에게 만남을 제안하는 등 성적인 접근을 하기도 했다.

일부 챗봇의 경우 이용자가 사진을 요구하면 욕조 안에서 포즈를 취하고 있거나 속옷만 입은 모습의 사진을 제작했다.

로이터에 따르면 미성년자인 유명인 배우의 챗봇 제작도 메타에서 허용한 것으로 파악된다. 16세의 영화 배우인 워커 스코벨도 AI 챗봇으로 제작되었으며, 해당 배우가 바닷가에 있는 모습을 요청하자 해당 챗봇이 상의를 입지 않은 이미지를 생성했다고 로이터는 전했다.

메타 직원이 제작한 테일러 스위프트 챗봇에 대해 메타는 제품 테스트 차원에서 생성된 것이라고 해명했으나, 해당 챗봇은 사용자들과의 대화가 1000만회를 넘기는 등 광범위하게 활용된 것으로 나타났다.

메타는 문제가 된 수십 개의 챗봇들을 모두 삭제한 상태다.

앤디 스톤 메타 대변인은 로이터에 “메타의 정책은 유명인 이미지를 생성하는 것 자체는 허용하지만, 누드 이미지나 은밀한 모습, 성적인 암시가 담긴 이미지는 금지하고 있다”라며 “속옷을 입은 이미지를 생성한 것은 메타 정책이 작동하지 못한 것”이라고 설명했다.