ChatGPT不断产生幻觉，OpenAI无法阻止：隐私运动团体

2024 年 5 月 1 日

维也纳隐私运动团体NOYB（None of Your Business）宣布计划针对 ChatGPT (opens new window) 提出投诉，声称这款人工智能工具发明了即使其创造者OpenAI也无法更正的错误答案。

ChatGPT的幻觉问题 #

根据NOYB的说法，ChatGPT表现出“幻觉”倾向，即生成与事实不符的答复。

该工具于2022年11月推出，引发了重大人工智能热潮，许多人开始将其用于各种目的。

这个聊天机器人的流行引发了科技行业更广泛的人工智能竞赛，但也因幻觉信息和版权指控而备受争议。

OpenAI承认，ChatGPT通过预测用户提示的可能单词来运行，但不保证所提供信息的准确性。

NOYB认为，涉及个人信息的不准确性是不可接受的。欧盟法律要求个人数据必须准确，如GDPR第5条所规定。

根据该团体，根据GDPR，个人还拥有权利，如更正权（第16条）和访问权（第15条），以确保数据的准确性和透明性。

NOYB的数据保护律师Maartje de Graaf强调了虚假信息的后果，尤其是关于个人的信息。

尽管ChatGPT提供了错误信息，但据称OpenAI拒绝更正或删除有关个人的数据，理由是技术限制。该团体声称，OpenAI对GDPR下的访问请求的回应是不充分的，未能披露有关处理数据的细节。

NOYB已向奥地利数据保护局（DSB）对OpenAI提出投诉，敦促对其与ChatGPT等大型语言模型相关的数据处理做法展开调查。

这个运动团体旨在确保符合GDPR并执行纠正措施，可能会通过欧盟合作实现。

ChatGPT的日益普及引起了欧洲隐私监管机构的关注，意大利数据保护局和欧洲数据保护委员会（EDPB）等机构正在审查其准确性和数据处理做法。

尽管有指控，OpenAI承认ChatGPT容易生成不准确信息。该聊天机器人始终附有一则免责声明，内容为“ChatGPT可能出现错误。请考虑核实重要信息。”

截至目前为止，其知识截止日期仅为2022年1月。