OpenAI는 ChatGPT가 생성한 콘텐츠를 탐지하기 위한 워터마킹 도구를 개발했으며, 이 기술은 99.9%의 탐지 정확도를 달성했습니다. 그러나 OpenAI는 오남용, 영어 비모국어 사용자에 대한 편향, AI 부정 행위 오탐지 가능성 등의 우려로 인해 이 도구의 공개를 보류하고 있습니다. 이 워터마킹 기술은 ChatGPT에만 적용되며, 텍스트 번역이나 다른 언어 모델을 사용하여 쉽게 회피할 수 있습니다.
OpenAI가 이전에 선보인 생성 AI 텍스트 탐지 도구는 낮은 탐지율과 오탐 문제로 7개월 만에 철회되었으며, 이는 사용자에게 심각한 영향을 미쳤습니다. 설문 조사 결과, ChatGPT 사용자의 69%가 새로운 도구로 인한 잘못된 혐의 제기를 우려하고 있으며, 30%는 해당 도구 도입 시 경쟁 모델 사용을 고려하고 있습니다.
이러한 어려움에도 불구하고 AI 탐지 도구에 대한 수요는 강하며, 설문 참여자의 80%가 이러한 도구의 존재를 지지하고 있습니다. OpenAI는 AI 기술 사용의 책임 있는 모델이 되고자 하며, 향후 몇 개월 내 이 워터마킹 도구의 공개 여부를 신중히 검토할 예정입니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.