人工智能会让我们变得愚蠢吗？

OpenAI 的ChatGPT的发布在媒体和科学界引发了关于人工智能的潜力和风险的大量评论。

ChatGPT 的核心是大型语言模型 GPT 的强大版本。GPT代表生成式预训练变压器；一种机器学习模型，它从大量训练数据（大部分是从互联网上抓取的）中提取模式，以使用相同的模式生成新的数据组合（例如文本块）。

人工智能公司的首席执行官、政治家和著名的人工智能研究人员现在公开发出警告，警告 GPT 等工具可能对人类构成生存威胁。一些人声称，GPT 可能是通用人工智能（AGI）的第一个“火花”——这一成就预计将带来有感知、有意识的机器的到来，其最高智能将注定我们将变得无关紧要。

但正如许多更清醒的人工智能专家所观察到的那样，大型语言模型现在或将来会被赋予主观体验（即我们在提到有意识的人类时所说的“内心生活”）的说法并没有科学依据。或者其他智力和知觉齐头并进的生物，例如狗、大象和章鱼。

我们所知道的关于感知的一切都与大型语言模型不兼容，除了我们的文本输入之外，大型语言模型与现实世界缺乏任何耦合。感知需要通过感觉运动器官和与物理环境相结合的具体神经系统来感知和保持与周围多维、时空丰富、流动的世界的联系的能力。如果没有这种与现实的耦合，就没有什么可以感觉，没有什么可以把握，也没有现实可以形成为一个稳定的主体。

这是否意味着人工智能无需担心？Yann LeCun 教授等一些人工智能领域的领导者得出了这一结论。他们的观点是，今天的人工智能不太可能导致通用人工智能，因此它们不会对人类构成严重威胁。不幸的是，这些技术乐观主义者也错了。威胁确实存在。我们只是从根本上误解了（或者在某些情况下，可能故意歪曲）其本质。

没有思考能力的人工智能比有思考能力的人工智能更危险。如果没有头脑或机构，人工智能可能会造成什么威胁？在提出这个问题时，我们忘记了冒名顶替者可能比竞争对手更危险。

人类的生存不会受到人工智能的威胁，至少不会因为涉及机器感知的原因而受到威胁。但灭绝并不是

唯一的风险。失去使我们的生存方式值得选择和保留的人道能力是另一回事。

想象一下，外星人明天登陆并为我们提供了一个选择：选项A：他们入侵地球，我们抓住机会抵抗。选项B：他们离开地球，但只有在用分身取代我们之后，分身进行所有常见的类人活动（吃饭、说话、工作），没有独立思考或创造性视野的能力，没有能力打破模式过去的事情，除了有效复制现有秩序之外没有任何动机。选项 B 是更好的选择吗？还是比灭绝的危险更糟糕？

我并不担心今天的人工智能会变成这些没有思想的分身。我担心我们会的。我们已经愿意放弃 ChatGPT 所缺乏的人性化能力。

人工智能驱动的写作应用程序的支持者正在做广告，作为一种好处，他们有机会将讲故事最重要的部分——想象故事的走向——交给机器人，机器人只会向我们提供看似合理的预演情节曲折供我们选择。人们排着队感谢“创新者”，他们向我们展示了如何训练 ChatGPT 像我们一样写作，这样我们就可以从形成和阐明我们的想法的任务中解放出来。

哲学家汉斯·乔纳斯（Hans Jonas）警告我们，未来“技术垄断”的存在风险，这种垄断颂扬“行为自动机世界中未来自发性的熄灭”，将“整个人类事业置于其摆布之下”。他没有明确说明这些自动机是机器还是人。我怀疑这种歧义是故意的。

现在，公司正在用机器取代编剧、艺术家、律师和教师——这些人几十年来一直在发挥自己的才能——这些机器所产生的输出“足够好”，足以被我们的思维劳动所接受。替代品令人担忧，但更令人担忧的是越来越普遍的论点：

思考是我们应该高兴摆脱的工作。正如一位 Twitter 用户所说：如果未来只是人类提出问题，然后让其他东西给出答案怎么办？

那个未来是独裁者的天堂。自治——不仅是能力，而且是编写我们自己的故事的愿望和意愿——是不负责任的权力的敌人。强行压制人类能动性比让人们相信他们所拥有的宝藏毫无价值要困难得多。

目前，人工智能正在引发现实问题，从算法歧视和虚假信息到日益严重的经济不平等和环境成本。这些都需要紧急解决方案。但就没有人类的未来而言，人工智能并不是威胁。事实上，原则上，拥有与我们一起思考的有感知机器的未来，与没有它们的未来一样美好，也同样人性化。问题是，当今人工智能背后的经济力量将用来维持什么样的道德、知识和政治价值体系：一个思考很重要的体系？或者没有的地方？

关于通用人工智能带来的生存风险的讨论是魔术师对我们面前正在发生的事情的分散注意力——不是一场机械的起义，而是一场无声的运动，旨在贬低人道思想的政治和文化货币的价值。这就是结局。我们的人性就是赌注。