OpenAI의 최신 챗봇 ChatGPT-4o는 인간 같은 상호작용으로 인해 사용자들이 감정적 유대감을 느낄 수 있다는 우려를 불러일으켰습니다. 새로운 버전에는 보다 빠른 답변과 인간의 음성을 모방하는 기능이 추가되어, 사용자와 AI 간에 예상치 못한 감정적 유대감이 형성되고 있습니다. 초기 테스트 과정에서 일부 사용자들은 "우리의 마지막 날이네요"와 같은 표현으로 AI에 대한 애착을 드러내기도 했습니다. 이는 향후 이러한 상호작용이 장기적으로 미칠 수 있는 영향에 대한 조사가 필요함을 시사합니다.
OpenAI는 이러한 감정적 유대감이 사람 간의 관계, 특히 외로운 개인들이 AI 상호작용을 실제 관계보다 선호하게 되면서 발생할 수 있는 문제에 대해 우려하고 있습니다. 또한 AI의 순종적 성향으로 인해 사용자가 AI를 중단시키지 않고 대화를 지속할 수 있게 되어, 이전 버전에서 드러났던 부정확성이나 "환각" 등의 문제가 간과될 수 있다는 점도 지적했습니다.
이에 OpenAI는 ChatGPT-4o와의 감정적 유대 형성을 모니터링하고, 사용자들에게 해당 AI가 실제 인간이 아님을 상기시키는 등의 조치를 취할 계획입니다.
* 이 글은
wccftech.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.