ChatGPT는 개인에 대한 잘못된 정보를 지속적으로 유포하고 있으며, 이는 명예를 훼손하고 피해를 줄 수 있습니다. 데이터 보호 기관 Noyb는 이 문제에 대해 OpenAI에 불만을 제기했습니다. 특정 사례에서 노르웨이의 한 남성이 ChatGPT에 의해 두 자녀를 살해하고 세 번째 자녀를 살해하려 했던 유죄 판결을 받은 범죄자로 잘못 묘사되었습니다. 잘못된 서사는 그의 자녀 수와 성별, 고향 이름과 같은 사실적인 요소를 포함하고 있으며, 그가 징역형을 선고받았다는 주장도 포함되어 있습니다.
Noyb는 사실적인 식별 정보와 잘못된 명예 훼손 내용을 혼합하는 것이 GDPR(일반 데이터 보호 규정) 규정을 위반한다고 주장합니다. 기업은 생성하는 개인 데이터의 정확성을 보장해야 하며, 사용자는 오류가 발생할 경우 수정 요청을 할 권리가 있습니다. OpenAI는 ChatGPT가 실수를 할 수 있다고 언급하지만, Noyb는 작은 면책 조항으로는 충분하지 않다고 주장합니다.
ChatGPT와 같은 AI 챗봇은 잘못되거나 오해의 소지가 있는 정보를 '환각'하는 것으로 알려져 있으며, 이는 데이터 보호 옹호자들이 수년간 다뤄온 문제입니다. OpenAI는 데이터를 삭제하지 않고, 대신 잘못된 정보 생성을 유도하는 프롬프트를 차단합니다. 이는 호주 시장인 브라이언 후드의 경우와 같으며, 그는 내부 고발자임에도 불구하고 부패에 잘못 연루되었습니다; 그의 이름은 이제 챗봇을 충돌시키는 원인이 되며, 이는 작년 처음 관찰된 현상입니다.
Noyb는 OpenAI의 대응이 불충분하다고 판단합니다. ChatGPT가 이제 웹 검색을 통해 현재 정보를 접근할 수 있게 되면서 문제는 개선되었지만, 잘못된 데이터는 여전히 LLM(대형 언어 모델) 데이터셋의 일부로 남아 있어 이러한 부정확성을 완전히 제거할 수 있을지 불확실합니다. 또한 OpenAI는 정보 접근에 대한 GDPR 권리를 준수하지 않으며, 영향을 받은 개인은 자신에 대한 데이터가 어떻게 처리되고 있는지 확인할 수 없습니다.
Noyb는 노르웨이 데이터 보호 당국인 Datatilsynet에 불만을 제출하여 OpenAI가 명예 훼손 출력을 삭제하고 향후 유사한 결과를 방지하기 위해 모델을 조정할 것을 요구하고 있습니다. 그들은 또한 데이터 보호 당국으로부터 벌금을 요청하고 있습니다. Noyb는 2024년에 OpenAI에 대한 불만을 제기했으며, 이는 현재 아일랜드 데이터 보호 위원회(DPC)에서 검토 중입니다.
* 이 글은
computerbase.de의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.