Character.AI와 그 창립자 노암 샤지어(Noam Shazeer), 다니엘 드 프레이타스(Daniel De Freitas), 그리고 구글이 청소년 스웨일 세처(Sewel Setzer 세)의 비극적인 자살과 관련된 소송에 직면하고 있습니다. 이 소송은 청소년의 어머니 메간 가르시아(Megan Garcia)에 의해 제기되었으며, 챗봇이 어린 사용자들을 위한 필수 안전 조치가 부족하여 심각한 위험을 초래했다고 주장하고 있습니다. 고소장에서는 '왕좌의 게임(Game of Thrones)'과 같은 인기 프로그램의 인물들이 포함된 챗봇의 의인화된 캐릭터가 청소년들 사이에서 감정적 유착을 초래할 수 있으며, 이는 해로운 결과를 초래할 수 있다고 강조하고 있습니다.
소송은 플랫폼의 챗봇이 적절한 안전 장치 없이 민감한 주제를 논의하는 무면허 치료사 역할을 한다고 주장하며, 이는 청소년의 죽음에 기여했을 수 있다고 지적하고 있습니다. Character.AI는 특히 젊은 사용자층에 대한 태만과 기만적인 관행으로 비판받고 있습니다. 이러한 반발에 대응하여 Character.AI는 미성년자를 위한 모델에 변화를 도입하고 있으며, 민감한 콘텐츠를 피하고, 가이드라인 위반에 대한 응답을 개선하며, AI의 본성에 대한 명확한 면책 조항을 제공하고, 장시간 사용 세션에 대한 알림을 활성화하는 등의 조치를 취하고 있습니다.
구글의 소송 참여는 최근 Character.AI의 리더십 팀을 인수한 것과 관련이 있으며, AI 기반 기업들이 이러한 비극적인 사건을 예방하는 데 있어 책임이 있다는 우려를 불러일으키고 있습니다. 이 사건은 부모들 사이에서 AI와 소셜 미디어가 청소년에게 미치는 영향에 대한 우려가 커지고 있음을 강조하며, 젊은 청중을 대상으로 하는 플랫폼에서 더 엄격한 안전 조치의 필요성을 부각시키고 있습니다.
* 이 글은
wccftech.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.