Google AI负责人：不要从ChatGPT获取交易建议 | 采访

ChatGPT和交易机器人正在兴起，但你能相信它们的建议吗？谷歌AI负责人劳伦斯·莫罗尼在一次专访中与crypto.news讨论了AI和Web3的交集。

人工智能（AI）和区块链技术正在快速发展。随着AI的普及，误导信息的风险也增加了，因为像ChatGPT这样的工具使每个人都能产生大量误导性的内容。专家认为，区块链有潜力解决这个问题。Web3可以提供一个安全和经过验证的身份系统，确保在AI时代信息的准确性和可靠性。

Crypto.news在巴塞罗那的SmartCon会议上与谷歌AI负责人劳伦斯·莫罗尼进行了交谈，探讨了Web3和AI之间的协同效应，以及为什么不应依赖于ChatGPT和传统交易。 “Web3使AI3成为可能”

Crypto.news：首先，您能分享一下您与比特币和加密货币的经历吗？

Laurence Moroney：大约八九年前，我通过阅读《新科学家》杂志的《货币终结》一书第一次了解了比特币和加密货币，这让我的思维得到了开启。起初，我认为这是一种边缘骗局，但是后来我读了书，理解了它的工作原理和意义。

之后，我建立了我的第一台挖矿设备。我需要回头去看看它，看看我是否真的挖到了什么。我记得它运行了几个星期，只挖到了一些零碎的东西，但当时这些零碎的东西只值几分钱。

我对NFT的推销也有些不满。我的一些朋友的Twitter账户被人黑了，想要卖NFT，这给加密货币带来了负面影响。这是个遗憾，因为加密货币有很多潜力。

在过去几年里，我一直在观察和学习加密货币的发展，并参与了一些项目。我相信Web3和AI3的结合将会带来巨大的创新和改变。 我认为人工智能面临着类似的情况。当你今天上Twitter或其他社交媒体时，会看到很多人分享如何通过成为一个即时工程师就可以变成百万富翁。同样地，一年前，他们分享了如何通过出售NFT来成为百万富翁。不幸的是，这个行业因此受到了污染，以及其他我们都知道的事情。但我认为它有潜力，因为它有可行的解决方案。我对加密货币持积极态度。如果Web3使得AI3成为可能，那么其中的潜力是巨大的。

Crypto.news：在您看来，人工智能和加密货币之间的关键交集是什么？

**劳伦斯·莫罗尼：**我觉得有很多重要的交集，很难简单地列举出来。

有一个笑话说，直到第三个版本出来之前，这个行业什么都做不好。当我们看看生成型人工智能的现状时，它面临很多挑战。例如，当数据来自潜在的受版权保护的材料时，会出现问题。 实例如AI生成的艺术品赢得比赛引发了争议，表明AI艺术品无法获得版权。技术已经超前发展，但关于数据及其影响的考虑尚未跟上。

加密货币可以帮助解决这个问题。例如，考虑数据。将来，如果我是一位作者，并且我同意将我的数据用于训练模型，通过身份验证和数据存储在链上，当有人使用用我的数据训练的模型时，生成的一些代币可以流向我，这有利于数据创作者。

对于模型的使用者来说，能够使用可信模型在链上验证信息，增加对输入数据的信任。最后，对于模型构建者来说，使用经过验证的数据和用户允许的数据使他们能够跨越这些障碍。实质上，Web3使AI3成为可能。

为什么你不应该信任ChatGPT

加密新闻：当涉及到实际应用，如交易机器人或利用ChatGPT进行交流时，你不应该信任ChatGPT。 t are the potential risks of using generative models for investment advice? Can you give us some examples?

Laurence Moroney: Absolutely. One major risk is the lack of accountability. Generative models can generate content that appears to be legitimate but may not be based on sound financial principles. This can lead to incorrect advice or misleading information that could potentially harm investors.

Another risk is the potential for manipulation. Generative models can be trained on specific datasets, meaning they can be biased towards certain types of advice or investment strategies. This can create a distorted view of the market and lead to biased recommendations.

Additionally, generative models may not fully understand the context or nuances of the investment industry. They may not be aware of regulatory changes, market trends, or other factors that can significantly impact investment decisions. This lack of understanding can result in inaccurate or outdated advice.

Lastly, there is the ethical consideration of using generative models for investment advice. As mentioned earlier, these models generate content by making things up. This raises questions about the authenticity and reliability of the advice provided. Investors need to consider whether they are comfortable making financial decisions based on content that may not be grounded in reality.

Crypto.news: So, what can be done to address these risks and ensure the responsible use of generative models in the investment industry?

Laurence Moroney: One approach is to establish a framework for evaluating and validating generative models before they are used for investment advice. This framework should include rigorous testing and validation processes to ensure the accuracy and reliability of the generated content.

Additionally, it is essential to supplement generative models with human expertise. Human analysts and advisors can provide the necessary context and judgment that may be lacking in purely algorithmic approaches. By combining the strengths of both human and machine intelligence, we can mitigate some of the risks associated with generative models.

Furthermore, transparency is key. It is crucial for organizations using generative models to be transparent about their methodologies, datasets, and any biases that may exist. This transparency allows investors to make informed decisions and understand the limitations of the advice they receive.

Ultimately, the responsible use of generative models in the investment industry requires a comprehensive and cautious approach. It is essential to recognize the limitations and risks associated with these models while leveraging their potential benefits. By doing so, we can strike a balance between innovation and investor protection. 劳伦斯·莫罗尼: 如果你只使用来自可靠交易所的数据以及成功交易的数据来训练模型，那么你获得可靠的输出的机会可能会更大。但是你无法预测未来。多年来，分析师一直试图通过人工智能和传统数据科学来做到这一点。没有人能够准确预测价格。

此外，如果百万人同时使用该模型，其可验证性和准确性将会荡然无存。当每个人都在购买某样东西时，价格会上涨。如果每个人都在卖出，价格会下跌，而不论你的预测如何。

我不相信以那种方式进行交易机器人的未来。我担心如果有百万个机器人都在做同样的事情，他们有可能会操纵市场。

Crypto.news: 那么，你也不认为人工智能最终可以取代人类交易员？ Laurence Moroney：人工智能将使人类金融顾问变得更加高效。金融顾问通常需要阅读包含数千字的广泛文件，以寻找有价值的见解。语言模型可以帮助查询和提取这些文件中的有意义信息，从而提高效率。

如果我们想到会计师，电子表格的发明并没有使他们变得过时。它只是让使用纸和笔工作的会计师失去了业务，但却使会计师的工作更加高效。

Crypto.news：专家们经常谈论的另一个挑战是交易数据过于集中。

Laurence Moroney：我同意，这确实可能是其中之一。另一个需要考虑的挑战是集中计算。然而，随着模型的不断增大和功能的增强，我们可能会看到这些模型分成更小的部分。

我们已经看到了这方面的迹象。例如，最新的GPT-4模型就是如此。 AI对人类是否构成威胁？

Crypto.news: 在《Scary Smart》一书中，谷歌[X]前首席商务官Mo Gawdat提出了一种观点，即一旦AI超越人类智能，可能会构成威胁。此外，专家们呼吁暂停先进的AI开发，担心可能产生意想不到的后果。您对此有何看法？

创作者们在发布时表示，这个模型由多个模型共同工作组成。我们正在进入一个多个模型共同协作解决问题的时代。特别是当我们考虑到一旦我们能够分布式部署模型，分散模型的潜力时，情况变得更加令人兴奋。直接将一个巨大的3000亿参数的单一模型放在区块链上是不现实的。它太大了。然而，通过开发较小的分布式模型，每个模型在不同的区块链上运行，并利用像CCIP这样的协议在链之间搭建桥梁，分散化成为了一个可行的未来。

AI对人类是否构成威胁？

Crypto.news: 在《Scary Smart》一书中，谷歌[X]前首席商务官Mo Gawdat提出了一种观点，即一旦AI超越人类智能，可能会构成威胁。此外，专家们呼吁暂停先进的AI开发，担心可能产生意想不到的后果。您对此有何看法？ 劳伦斯·莫罗尼：**我想我的观点略有不同。人工智能模型是人类用于各种目的的工具。而人对人的残忍比任何特定工具更危险。

我经常说，这可能听起来像个笑话，但我认为这是真的，我比机器智能更害怕生物无知。当你看一下今天最强大的人工智能，它们大多是无害的。

Crypto.news: 但有人认为人工智能正在以指数级速度发展。

劳伦斯·莫罗尼：确实，人工智能的能力正在以指数级增长，但它的发展目标是能够构建更好的解决方案。这并不意味着它们是更危险的解决方案。例如，大型语言模型中的幻觉水平可能会降低。你使用它作为一种工具的能力可能会提高。

然而，有一个著名的案例（链接已删除）， 在比利时，有一个人在与ChatGPT聊天后自杀了。这显然是一个非常悲剧的情况。在我看来，一个更强大的模型，无论是十倍还是一百倍更强大，不意味着发生这样的情况的可能性会增加十倍或一百倍。我认为导致这种可怕结果的情况与模型无关。模型可能是一个促进因素，学习如何在这种情况下加强保护措施是很重要的。但对我来说，模型的能力增强并不意味着模型造成的伤害会直接增加。

我知道我的观点不被很多人共享，我认为只有时间能证明一切。但我从事技术工作很长时间了，长期以来看到了很多没有实现的负面故事。还记得Y2K吗？大多数人相信在2000年1月1日，每台计算机都会崩溃。你可以在YouTube上找到当时制作的视频，包括L所拍摄的一个视频。 伦纳德·尼莫伊（Leonard Nimoy）是在《星际迷航》中扮演斯波克（Spock）的演员，他曾谈论过世界末日的问题。然而，事实证明这一切并没有发生，我们大多数人都已经忘记了。

我不会说世界会完全安全。我认为有些坏人会利用强大的力量做坏事，这正是问题所在，也是我担心的事情。如果给某人一把更大的枪，他们就能杀更多的人。但是我们不能通过停止人工智能的发展来阻止这种情况。我认为人工智能的积极应用远远大于负面应用。但是，掌控权力、了解这些技术的使用方式，并采取适当的防护措施来防止出现这种情况，这才是正确的方法。

加密新闻：最近的研究表明，随着人工智能的快速进展，“它变得有意识的可能性越来越不那么离奇”。您对此有何看法？

劳雷 凯文·莫罗尼：**这是可能的，但也取决于我们如何定义意识。我认为现今的技术还没有实现这一点，但技术确实在快速变化。我们拭目以待。

在意识的概念中，有一种叫做出现的想法，即某物并不具备智能，但根据其行为，我们认为它是智能的。我们已经看到了这种情况，人们认为ChatGPT和Bard是活着的，因为这是看者的眼中物。

我认为我们会看到更多这样的情况：人们相信某物是活的、聪明的、智能的和有自我意识的。这是否意味着它是活的、聪明的和智能的？或许是因为如果有足够多的人相信这是真实的。如果八十亿人突然相信ChatGPT是活的，那它可能真的活着吗？我不知道。

当我们看待植物或乌鸦时，往往不会认为它们是聪明的。但在我居住的西雅图地区，有很多土狼，如果我出去遛狗，乌鸦就会进行战争。 每当它们看到一只土狼时，它们会互相警戒，从而帮助到我。因此，在这些地方，我们并没有看到智能、自我意识或感知力，这迫使我们重新思考。当我们人为地创造东西时，我们更多地了解了自己，我觉得这非常迷人。