OpenAI证实数家全球网络被阻止操纵和滥用ChatGPT

科技巨头OpenAI揭示了如何反制数个旨在滥用和影响其ChatGPT模型的秘密行动。

该公司提到2023年至2024年间出现了多次尝试，其中大多数据称源自俄罗斯、伊朗、中国或以色列。

他们的目标是增强全球观众的参与度，因为这种操纵性行为被嵌入这一热门AI工具中，这得到了确认。

从本月初开始，这些行动似乎没有增加任何形式的观众参与度或为这些服务获得更多曝光。但OpenAI补充称，他们与来自科技界、政府或公共服务部门的多个成员密切合作，以防止此类行为的发生。

这一消息传出之际，许多专家对生成式AI的能力产生了怀疑，认为它可能带来更多伤害而非益处。随着选举周期即将来临，这意味着令人怀疑的结果将成为焦点。

OpenAI公布了调查结果，包括多家行动者精心制定的尝试，旨在影响其热门聊天助手的运作，以实现他们自身的利益。不仅仅是文本被修改，甚至图片也是如此，而且量级超过以往。

与此同时，由于试图使用AI在社交媒体上生成不准确和虚假评论，造成了虚假参与度高企。

过去一年左右，人们对这一前景产生了许多怀疑，包括如果此类有影响力的活动真的开始会发生什么。

在最近的新闻发布会上，OpenAI的专家们声称这些报告是引人注目的，引发了许多问题，包括必须填补漏洞以更好地理解正在发生的事情。

俄罗斯的一项名为“Doppelganger”的行动利用该公司的模型为多个故事制作标题，并将媒体内容转化为流行社交媒体网站上的帖子。这导致了更多的参与和各种语言的评论，以支持乌克兰和俄罗斯对其的战争等争议性议题。

另一份令人震惊的报告谈到了对流行短信应用Telegram的代码进行调试的活动，通过在各种语言中发布与政治有关的简短评论。

至于中国行动者的作用，他们设法为Meta的Facebook和Instagram制作有影响力的帖子，并使用模型在社交媒体上搜索更多类似活动，并发布各种语言的文本。

ChatGPT的制作者们在伊朗也注意到了类似的行为，国际虚拟媒体联盟利用AI发布吸引全球各个社区的内容。

OpenAI的披露与其他各大科技巨头经常发布的类似情况非常相似。

例如，我们看到Meta发布了一份关于协调行为的新报告，其中提到伊朗的营销公司利用Facebook上的虚假账户开展了全球影响力活动，并针对亚洲、欧盟、加拿大和美国等地区的用户。

尽管Meta确认已努力解决这一情况，但可以说这些活动仍在持续出现，尽管公司一直在努力终结这一切。