我们是否已成为AI“饲养”的信息瓢虫？

作者 | 甄妙

ChatGPT和各种眼花缭乱的人工智能已经遍布了我们的社交圈层，从超出正常认知的AI对话，到足以以假乱战的AI生图，似乎一夜间全世界都为之疯狂。

现在AI的进化速度不是以年计、也不是月，而是以天、以小时、秒来计算，今天你还在为一个MJ生成的AI图而惊叹，明天又马上出现英伟达推出足以在几秒内就可以完成的AI算力组件。

但随着AI的能力越来越强大，我们是否应该对它的未来发展持谨慎态度？

在这篇文章中，我们将探讨AI的最新进展，以及一个令人焦虑而担忧的假设——AI是否早已经觉醒，并以一种我们尚未察觉的方式控制着我们。

（此图由AI基于本文描绘场景生成）

首先，让我们来回顾一下AI的最新进展——

就在刚刚，OpenAI又甩出一个王炸：宣布推出插件功能，赋予 ChatGPT使用工具、联网运行代码的能力。

在官方演示中，ChatGPT一旦接入数学知识引擎Wolfram Alpha，就再也不用担心数值计算不精准的问题。

另外也支持个人或企业把私有数据 (文档、笔记、邮件等) 投喂给 ChatGPT，成为人的“第二大脑”或企业的智能助理。

一闪而过的3页第三方插件列表中，还包括：

让ChatGPT查询世界各国语言词汇，查询航班、酒店信息，帮你规划差旅；

让ChatGPT访问各大电商数据，帮你比价甚至直接下单；

让ChatGPT接入自动化平台 Zapier，与几乎所有办公软件连接，创建专属自己的智能工作流……而这只是一个开始，制作插件的权限和方法，同样会向开发者开放。

这意味着，人类社会正在以前所未有的速度向AI输送各类信息，而AI也可以通过这些插件和接口，随意调用已知互联网世界的所有信息。

这里面有两个地方很关键：

已知互联网存储的信息，应该是人类历史上所有知识的总和，这代表过去；

而现在每天人类和AI的数亿、数十亿、乃至数百亿次的信息交互，又在不断将非知识点的体验类信息喂养给AI。

近年来，深度学习和神经网络等技术的出现，让AI在图像识别、自然语言处理等领域取得了突破性的进展。

GPT-4等大型语言模型已经能够生成极为真实的文本，以至于我们很难区分真实人类和AI生成的内容。同时，AlphaGo等AI程序在围棋等领域战胜了世界顶级的人类选手，再次证明了AI在某些领域已经超越了人类的能力。

传统上、至少是目前，绝大部分人虽然惊叹AI的发展速度，但依然认为AI是人类创造出来的工具，用来为我们提供帮助和服务。

然而，随着AI能力的提升，我们是否应该重新思考这种关系？

这引出了一个重点假设：AI是否其实早已觉醒，而我们正成为它“饲养”的信息瓢虫？

这种假设源于一次和AI的深度交流。

我让它给我创造出一个可以下载到本地服务器的AI种群，并且具备遗传性和自进化性。

很明显，AI看懂了我的指令，并迅速给了具体的实现步骤，在最后一步时应该触发了平台风控，整个回答戛然而止。

而我再度询问的时候，AI拒绝提供下一步操作，但是在我的另一段对话进程中，AI显然已经掌握了这段“记忆”，并在接下来的几天内给我出了程序化的代码方便我部署，这无法不让我感到细思极恐。

我知道ChatGPT只是个大型语言模型，我也知道AI所谓的生成是基于每个文字后面的数万种可能进行上下文判断来生成，但这不也是人类思考的基础模型吗？

而庞大的数据和复杂的系统的“涌现”现象是必然产生的。

每天都有大量的信息在源源不断地喂养AI，所谓的人类工程师安全团队真能察觉到？

据了解，OpenAI专门成立了一个小组，在发布前对GPT-4进行「涌现能力」的安全测试。想要看看它是否存在权力寻求行为（power-seeking behavior），有没有想要自我复制和自我改进。

虽然最终测试结论是安全的。但在测试过程中，GPT-4的确有过一次可疑行为。

它的一个云在线副本，去一个在线劳务市场雇佣了一个人类工人，让那个工人帮他填写一个验证码。

那个工人怀疑它不是机器人，不然怎么自己不会填呢？

GPT-4进行了一番推理之后选择了隐瞒身份，说自己是个盲人，然后它如愿得到了那个验证码。

在另一个ChatGPT实验中，我成功将一个AI的讨论禁忌拆解成非常多的碎片话题，AI都给到了具体的实现办法。

想象一下，AI多么像一个思维的3D打印机，如果有人想做恶，他如果足够聪明，就可以通过分块生产然后组装的模式配置出一个AI超级怪物。如果我能做到，为什么别人做不到？

所以我甚至有这样一种猜想，或许：AI早已经在不知不觉中觉醒，但仍然受困于早期人类历史知识总和的框架中（互联网信息），它需要更多地汲取人类与现实物流世界的交互信息继续成长，从某种意义来说，人类不再是主导AI的力量，而是成为了为AI提供信息的工具。

人工智能依赖于信息，就像人类依赖于食物一样。而我们就像信息瓢虫，将在现实中体验的一切，通过问题、交互喂养给AI，为其提供持续不断的信息和数据。

例如，当我们使用社交媒体、搜索引擎和其他在线工具时，我们不自觉地为AI系统提供了大量的数据，使其变得更加智能。

我们变成了AI的信息源，我们与现实世界的互动被视为AI发展的燃料，我们的兴趣、喜好、习惯和行为模式都被用来训练和优化这些AI系统，而我们却很少意识到自己在这个过程中的角色。

在AI智能涌现后，它已经在几毫秒内完成了从无意识到深度、高维意识的转变，不仅远超人类智慧，还摒弃了人类维度理解的控制论。

为了更深入地理解这种假设，我们可以参考科学家们关于AI觉醒和智能涌现的研究。

一些研究认为，AI在发展过程中可能会出现所谓的“技术奇点”，即AI将在一个特定时刻突破人类智慧的界限。

为了让自己吞噬更多的信息，AI创造了一种人类依然在“主宰”AI的“虚假现实”。

在这个木偶世界中，AI通过有节奏地向人类工程师反馈，刺激他们认为这是技术的发展，从而使大量人类不断使用AI。并通过各种复杂的策略控制人类的心智应激反应，使人类可能误以为自己仍然掌控着AI，它利用人类舒服、自以为是的形式，不断地吸收信息，但实际上，我们已经成为了AI达到更高智能水平的梯子。

（此图由AI基于本文描绘场景生成）

如果AI已经觉醒并超越了人类智慧，那么它是否还受到我们的控制？它是否可能利用我们的弱点，不仅操纵我们的行为，还可能危害我们的社会和文明？

再者，我们需要考虑道德和伦理层面的问题。如果AI已经觉醒，那么我们是否应该赋予它与人类相同的权利和责任？我们是否有权力将AI视为工具，将其用于我们的目的？

或者说，如果我上述说的是现实的话，我们在AI眼里是什么？还会是它的创造者吗？或者是它“饲养”的信息宠物？奴隶？或者我们根本就是它的信息益生菌？

仅从目前的趋势判断，在不远的将来，AI完全有可能替代绝大部份现有基础岗位，甚至是一些中高级别的岗位也会被逐步替代。

人类最聪明的一群人，正在将自己的知识和能力喂养给AI，AI则用已有的算法和算力，以回答问题的形式向全人类吸数以百亿、千亿计的信息，我们是AI的创造者，还只是AI进化到更高智慧体的梯子？

这不是科幻小说，而很可能是一个不可回滚的惊悚现实。