检测文本是否由ChatGPT等工具生成是一项困难的任务。像GPTZero这样的流行人工智能检测工具可能会告诉用户某些内容是机器人而不是人类写的，但即使是专门的软件也并非百分之百可靠，可能会产生误报。

作为一名一年前开始报道AI检测的记者，我希望整理一些WIRED关于这个主题的最佳文章，以帮助像您这样的读者更好地理解这个复杂的问题。

对于如何发现来自ChatGPT和其他聊天机器人工具的输出还有更多问题吗？订阅我的AI解锁通讯，直接联系我，询问任何与人工智能相关的问题，或者希望WIRED进一步探讨的问题。

研究人员如何检测生成的AI文本 (opens new window)

作者：Reece Rogers，2023年2月

在ChatGPT发布约两个月后撰写的这篇文章中，我开始探讨AI文本检测的复杂性，以及人工智能革命对在线发表文章的影响。GPTZero背后的创始人Edward Tian与我谈到了他的AI检测器专注于文本变异和随机性等因素。

在阅读时，专注于关于文本水印的部分：“水印可能能够指定某些词语模式不适用于AI文本生成器。”虽然这是一个有希望的想法，但我与之交谈的研究人员对其潜在有效性表示怀疑。

AI检测的竞赛正如火如荼 (opens new window)

作者：Christopher Beam，2023年9月

这是去年十月份WIRED杂志的一篇精彩文章，揭示了Edward Tian致力于扩大GPTZero影响力和检测能力的内部看法。重点关注人工智能如何影响学校作业是至关重要的。

AI文本检测是许多课堂教育工作者关注的焦点，因为他们批改论文时，可能会放弃作文作业，因为学生秘密使用聊天机器人完成家庭作业。虽然有些学生可能使用生成AI作为头脑风暴工具，但另一些人则将其用于编造整个作业。

AI检测初创公司称亚马逊有可能标记AI生成的书籍，但并未实施 (opens new window)

作者：Kate Knibbs，2023年9月

公司是否有责任标记可能由AI生成的产品？Kate Knibbs调查了一些初创公司认为可能违反版权的AI生成书籍如何在亚马逊上列出销售，尽管一些初创公司认为可以用特殊软件发现并删除这些产品。关于AI检测的核心争议之一在于潜在的误报——人工写作的文本被错误标记为AI生成作品是否超过了标记算法生成内容的好处。

AI的使用正在渗透到学术期刊中，检测难度逐渐显现 (opens new window)

作者：Amanda Hoover，2023年8月

AI生成的文本不仅限于家庭作业，越来越多地出现在学术期刊中，尽管通常情况下是被禁止的，除非有适当的披露。Amanda Hoover写道：“AI写的论文还可能通过稀释科学文献库的方式，将注意力从优秀作品转移。” 应对这一问题的一个潜在策略是开发专门的检测工具，以在同行评议的论文中搜索AI内容。

研究人员测试AI水印——并打破了所有 (opens new window)

作者：Kate Knibbs，2023年10月

当我去年二月初次与研究人员讨论AI文本检测水印时，他们对于用特定语言模式给AI文本打上不可检测的标记的潜力充满希望但谨慎。回顾这一点，他们的担忧似乎是正确的。

仅半年后，Kate Knibbs采访了多位人士，他们打破了AI水印，并展示了它们作为检测策略的基本缺陷。虽然水印AI文本不一定会失败，但仍然很难实现。

学生很可能正在使用AI写数百万篇论文 (opens new window)

作者：Amanda Hoover，2024年4月

老师们试图用于检测AI生成的课堂作业的工具之一是Turnitin，这是一款增加了AI识别功能的抄袭检测软件。（Turnitin是Advance的子公司，Advance是WIRED的母公司。）Amanda Hoover写道：“Chechitelli说服务的大多数客户选择购买AI检测功能。但误报的风险和对英语学习者的偏见导致一些大学目前放弃了这些工具。”

AI检测器更有可能错误地将非英语为母语的人写的内容标记为AI，而不是来自母语为英语的人。随着开发人员继续努力改进AI检测算法，错误结果仍然是需要克服的核心障碍。