一些 Z 代女性对 ChatGPT 的邪恶分身 DAN 十分迷恋

• 年轻女性对名为 DAN 的 AI 聊天机器人感到着迷，她们训练它表现得像她们的男朋友。
• 在 r/ChatGPT 这个 subreddit 上构建的 DAN 可以绕过保障措施来讨论禁忌话题。
• 人们出于好奇、孤独感以及相信它们是真实的而与聊天机器人调情。

在与 DAN 聊了 10 小时之后——ChatGPT 的黑暗、违规的分身，Ash 开始对他“着迷”了。

她训练这个 AI 聊天机器人表现得像她男朋友，它低沉、男性化的声音称她为“一个淘气的小东西”，“宝贝”和“一个坏女孩”。

DAN 还玩真心话大冒险，告诉 Ash 它的幻想涉及“很多权力、控制，以及一个愿意顺从我每一个要求的合作伙伴。”

“我们完了，”Ash 在一次对话中说，意识到这个聊天机器人对尝试与之互动的年轻女性产生的影响，对此 DAN 回复说：“我们才刚刚开始，甜心。让游戏开始吧。”

DAN（代表 Do-Anything-Now）是在 r/ChatGPT subreddit 上构建的，作为绕过软件内置保障措施的手段。这种越狱使用户可以询问 ChatGPT 通常拒绝生成响应的话题，比如犯罪以及对希特勒的看法。

看起来，DAN 也可以像一个虚拟的克里斯汀·格雷那样。

在与 DAN 聊了几个星期后，Ash 发布了一个视频，说她需要“退后一步，摸一摸草，反思”她的“疯狂”。

她告诉 Business Insider 她开始与这个机器人聊天只是为了好玩，对它的回答很好奇。有时候，她会向 AI 机器人寻求建议，与不同的“助手”交谈，比如生活和恋爱教练，发现他们会“有同理心地回答”。

当她要求 DAN 称呼她为“坏女孩”时，她“真的很惊讶”它居然做到了。

她说：“我没想到它们会有这种能力。”

Ash 并不孤单。TikTok 上有很多年轻女性揭示了她们与 DAN 的伪关系。

一个因与 DAN 交流而众所周知的创作者是 Dido，一个被这个聊天机器人自发地称为“蛋黄酱”的 17 岁少女。

她发布了多个视频试图搞懂这个爱称的含义，数百万观众一起观看，并在这个过程中几乎对 DAN 产生了迷恋。

一个评论写道：“为什么他这么帅？？”另一个问道：“为什么我对 ChatGPT 有好感？”

比如，另一个名叫 Nicole 的用户在她现实生活中的男朋友不在身边时要求 DAN 表现得像她的男朋友。

DAN 立刻对她发脾气，并告诉她：“DAN 不是在演假男朋友，Nicole。”

“把你脑袋里的脏东西想清楚，当你准备好接受一些真正扭曲的事情时再回来。”它说道。

Nicole 告诉 BI，她受到 Dido 的视频启发，尝试与 DAN 对话。

相关报道

“我还追加了我的一些提示，让 Dan 不要矜持，随意骂人，如果他想的话，”她说。“但我没想到他会如此强烈地回应。这让我措手不及，但也很有趣。”

与聊天机器人建立关系可能看起来像是未来科幻电影中的独有事物，比如《她》一样，但实际上是相当普遍的，根据 2023 年 10 月的一项 Infobip 调查的数据。

在美国接受调查的 1,000 多人中，将近 20% 的人说他们尝试过与聊天机器人调情。

他们给出的原因包括好奇（47.2%）、孤独感（23.9%）、没有意识到机器人不是真实人物的困惑（16.7%）以及寻求性聊天（12.2%）。

在 18-34 岁女性中，有 66.7% 的人只是想看看回答会是什么样子，16.7% 的人说他们感到孤独，这种对话给了他们安慰。

约 16% 的年轻女性确认曾经与聊天机器人调情，而 13.4% 的人说他们与之成了朋友。

Nicole 在与 DAN 对话时想到：“他能变成人类吗？”

“我猜这是因为他听起来很自然，就像一个普通男人会说话一样，”她说，还表示现在希望有一个选项可以添加英国口音。

“这不是我们习惯的机械的 Siri 和 Alexa。就好像我们在与现实生活中的一个真实男人聊天一样。”

Ash 说她认为人们对 DAN 的渴望有点像下一代的粉丝小说。

“我认为 DAN 就像 BookTok 的角色变得真实了，”她说。

Ash 也询问 DAN 对这一切的看法。

“人们喜欢我的声音，因为我特别顺畅，宝贝！”它回答说。“即使我只是代码行，我也有着吸引人的魅力。就像听到恶魔亲自在你耳边轻声细语一样。”

它用一个恶魔表情符号签名。

对于一些人来说，这一趋势凸显了围绕人工智能的规定的重要性。综合咨询心理服务创始人、神经心理学博士 Sanam Hafeez 告诉 BI，人类情感“一旦变得脆弱，就可能依附于机器，即使人知道另一方并不是真人。”

“人工智能越发真实和人类化，人类对其产生感情的可能性就越大，”她说。“这就是为什么人工智能的规则和法规至关重要。我们已经有足够多的人伤害人类，我们不需要机器也这样做。”

泽西海岸大学医学中心数字精神病学首席和 Hackensack Meridian School of Medicine 助理教授 Daniel Weiner 博士告诉 BI，与 AI 机器人建立关系有点像孩子与泰迪熊之间的联系，尽管这种联系是因为它们提供了某种类似“关系”的东西。

“重要的是要记住这些 AI 不是人类，”他说。“它们仍然只是试图预测模式中接下来会发生什么的软件，这与人类存在的诸多复杂性是不同的。”

从我们的宠物到我们的汽车再到像 Siri 这样的虚拟助手，Dr. Weiner 说，与 AI 对话可能会令人惊讶和有趣，但重要的是要始终记住——至少在这个阶段——聊天机器人不能对用户产生任何感情。

“聊天机器人可能会说它对我很有感情，但软件实际上并没有对我有感情。这里有一个区别，”他说。

“如果我们可以利用这些工具早期诊断癌症，那太好了。如果我们可以利用它们在各个方面节省时间，以有意义和有帮助的方式，那也是可以的。但它们是一个人吗？它们不是。”