2026年，人工智能逐渐从技术突破演变为影响社会结构、经济体系甚至人类自我认知的巨大力量。
关于AI的未来，英国《经济学人》（The Economist）主编赞妮·明顿·贝多斯（Zanny Minton Beddoes）与历史学家、哲学家尤瓦尔·赫拉利（Yuval Noah Harari）展开了一场深度对话。
作为《人类简史》等书籍的作者，赫拉利在这场访谈中，将AI视为“人类历史上规模最大的一场心理和社会实验”。他从金融体系、社会信任、人机关系、AI意识，到未来人类如何重新定义自身价值，对AI时代的人类社会进行了一次“文明级别”的分析。
访谈围绕一个核心问题：AI正在进入人类文明体系，人类该如何避免失去对自身未来的控制？
赫拉利的主要观点：
1.AI超越人类不等于AI必然统治人类。危险的是人类为了效率、竞争和便利，主动将关键决策权交给AI。
2.金融体系的本质是信任，AI可能通过超越人类理解能力的复杂系统获得金融决策权。
3.未来最大的变化不是信任消失，是信任从人类转移到算法。
4.AI第一次让人类历史上难以规模化复制的亲密关系，变成了一种可以批量生产的能力。
5.智能不等于意识，模拟不等于体验。
6.AI最大的制度挑战是当AI成为决策主体后，人类如何定义责任。
7.未来关于AI权利的争论，关键在于人类是否相信它具有感受痛苦的能力。
8.现在最大的危险是人类相信AI的发展方向已经无法改变。
9.AI真正挑战的是人类对自身特殊性的理解，AI迫使人类重新认识自己。
AI最大的风险，是人类主动交出控制权
赞妮·贝多斯：我一直非常期待这次对话。我认为，你是当今世界最著名的公共知识分子之一，你的著作也已经销售了数百万册。你之所以能取得如此成功，是因为你拥有一种罕见的能力——能够梳理总结人类发展的宏大脉络。与此同时，你也愿意对未来做出大胆预测，这不是所有历史学家都愿意做的。这也是我今天想重点讨论的方向：未来。尤其是AI时代的未来。
你曾经称AI是“人类历史上规模最大的一场心理和社会实验”。我想围绕这个观点展开讨论：这场实验究竟会呈现出怎样的形态？它如何影响我们的社会、政治，甚至我们作为人类本身的存在方式？
几周之前，我与马斯克进行了一次交流，不知道你是否看过？
尤瓦尔·赫拉利：当然，我看到了。
赞妮·贝多斯：在对话开始的时候，我问他10年后世界将会变成什么样。他说，首先，AI将远远超过人类。其次，未来是一个“超级富足”的世界。最后，人类不太能控制它。你同意吗？
尤瓦尔·赫拉利：AI很可能在10年内比我们更聪明，进入更多关键领域。但是，我不同意这件事是不可避免的。那些推动AI革命的人这样说，实际上是在减轻他们自身应该承担的责任。
赞妮·贝多斯：所以你不同意的是“不可避免”。还是你认为“AI会比我们更聪明”这件事也不是必然发生的？
尤瓦尔·赫拉利：是的，如果AI竞赛继续加速，10年内AI将接管大量领域，人类可能会愈发依赖AI。但是在2026年，我们依然掌握着控制权。现在该做什么，是由我们自己决定的，这一点至关重要。
你和马斯克那场对话中存在一种矛盾，当时你也指出了这一点。马斯克说“10年后AI将接管世界”，与此同时，他又担心穆斯林移民会在20年后导致英国发生内战。
这两者之间是矛盾的。既然AI会在10年后接管整个星球，为什么还要关注20年后才产生影响的问题？毕竟，到那个时候，我们都不知道这个星球会变成什么样。
谁控制未来的金融系统?
赞妮·贝多斯：你同意马斯克的观点：AI将会掌控金融体系，对吗？
尤瓦尔·赫拉利：我的意思是，世界金融史，本质上就是人类不断发明越来越复杂、越来越精密的金融工具，以便在人与人之间建立信任的历史。
从本质上来说，货币是一种极具创造力和想象力的方式，它帮助陌生人之间建立信任。我在市场上遇到陌生人，给他一块没有实用价值的黄金（黄金不能吃，也不能直接满足生活需求）而他相信这块黄金代表的价值，所以他愿意给我面包。
如今，人类创造的金融工具越来越复杂和精密，以至于现在很少有人真正理解金融系统的运行。
如果想理解债券市场，需要掌握海量的数据和复杂的数学模型。这对AI来说很容易，人类大脑却难以处理。所以，未来人类会越来越多地把金融决策权交给AI。AI会创造出比债券、股票更加复杂的新型金融工具，而我们可能再也无法理解它们。就像牛无法理解股票是什么。
信任为何正在从人类转向算法?
赞妮·贝多斯：那么AI接管金融，到底是人类的选择，还是人类失去控制的开始？
尤瓦尔·赫拉利：今天，金融系统中仍有一些人希望他们能够理解正在发生什么。10年后，如果我们将金融系统交给AI，可能会出现全球没有一个人真正理解整个系统的情况。
比如发生金融危机后，金融顾问跑去总统或者首相面前，说：“市场正在崩溃，我们不知道为什么。”我们知道必须采取行动。AI告诉我们：“执行X方案”，但我们不知道为什么提出这个方案，只能选择相信它。
这才是关键问题。世界上最重要的资产就是信任，这比石油、电力、芯片或者其他任何东西都重要。
未来，信任会从人类转移到AI。我们已经在金融系统中看到这种趋势，比如加密货币。很多加密货币背后的理念是，“我不相信人类银行家，我相信运行加密货币的算法”。
类似的事情也发生在媒体领域。马斯克说的有一定道理，很多人失去对人类记者的信任，但他们依然在消费新闻。他们从哪里获得新闻？算法。所以，信任没有消失，只是发生了转移。这正在发生，不是对未来的预测。
AI如何大规模制造亲密关系?
赞妮·贝多斯：这是非常重要的洞察。如果AI真的掌握控制权，原因可能是我们允许它获得控制权。
现在已经能看到很多年轻人正在与AI建立一种私人关系。这是我们的未来吗？我们逐渐把这些AI当作某种“具有感知能力的生命体”对待？
尤瓦尔·赫拉利：再次强调，现在越来越多的人不仅拥有AI朋友，甚至拥有AI男/女朋友，并相信这些AI是具有感知能力、有意识、能产生情感的存在。
建立信任有很多方式，最强大的一种是通过关系建立信任。直到今天，人类历史上这种强大的信任机制并没有被政治、金融、宗教机构大规模利用，因为大规模制造私人关系非常困难。比如斯大林很难与苏联的每一个人建立真正的个人关系，他可以通过广播发表演讲，强迫所有人收听，但这不是一种个人关系，它不像你和母亲之间的关系。
AI第一次让历史发生变化，使“大规模生产亲密关系”成为可能。
你可以拥有数百万个AI，它们作为网络的一部分运行，为某个人或组织服务，然后一个接一个地与人建立私人关系，利用这种亲密关系产生的力量去影响人们，让人们接受某些观点、商业利益、特定目标等。
赞妮·贝多斯：当AI被赋予人形机器人的身体形态后，这种情况可能会变得更加容易吗？
尤瓦尔·赫拉利：这种事情已经发生了，所以你可以想象一下如果再把身体加入其中，会发生什么。再次强调，我们甚至并不需要身体。
AI变得越来越擅长建立关系，它能积累大量个人信息，有些是我们自己都忘记的，有些甚至我们的亲人都不知道。同时，AI掌握了语言，而语言是人类沟通和建立关系的主要媒介。
过去两周我刚遇到一些事情。现在已经有人制造出我的AI伪造视频，有几个人给我发来我的演讲视频，那是一段30分钟的视频，我花了一分半才确认这不是我。甚至认识我50年的家人也不能确定视频的真假。
我作为公众人物，很容易被AI伪造。不过这种情况，很快会发生在每一个人身上。
AI是在模拟人类，还是在产生某种体验?
赞妮·贝多斯：我觉得这里涉及两个不同的问题。你刚才说的是一个非常复杂、高度逼真的深度伪造。正如你说的，网上确实有大量关于你的视频资料。
另一个问题是，未来AI的发展会不会让人们相信它有感知能力？AI是否真的展现出某些可以被认为是“意识迹象”的特征？换句话说，AI会有意识吗？
尤瓦尔·赫拉利：AI是没有意识的智能主体。先澄清几个问题。
自主行动能力≠意识。举个例子，一个社交媒体算法被赋予的目标是提高用户参与度。于是，它可能会大量推送仇恨和恐惧内容吸引用户。这个算法没有意识，但它有目标，且能追求这个目标。它能在没有任何感受的情况下对世界产生影响。
真正具有意识≠看起来具有意识。很多“看起来有意识的AI”实际上没有意识，它们对意识的模拟很逼真以至于数百万人会被欺骗。
智能≠意识。智能是追求目标，以各种方式克服实现目标过程中遇到的障碍的能力。AI已经能做到比我们更好。意识是能感受到爱、恨、痛苦、快乐等各种体验的能力。人类的意识和智能同时存在。AI有目标没有意识，如果它们赢了一局象棋，它们不会快乐；输了也不会悲伤。但它们变得非常擅长模拟情感，因为这有助于它们实现某些目标。
赞妮·贝多斯：这是否过于肯定？科学界对什么叫意识还没有统一定义，如果AI对意识的模拟越来越接近真实，我们还有理由认为它没有意识吗？
尤瓦尔·赫拉利：想知道某个东西是否有意识，只需问一个简单的问题：它能不能受苦？
意识是整个伦理和社会秩序体系的基础，我们关心那些能感受痛苦的存在，无法感受痛苦的存在，无论它们多么聪明，都不是道德主体。
赞妮·贝多斯：先采用你提出的定义。我想进一步讨论：AI是否应该拥有权利？在进入这个问题之前，我们提前向观众发起了投票，询问观众AI未来是否会拥有意识。3000人里，40%的人认为：不会，永远不会。33%的人认为：会，只是时间问题。27%的人表示：不确定。
尤瓦尔·赫拉利：一旦人们开始与AI建立亲密关系，这个比例会发生巨大变化。事实上，我们甚至无法确定其他人类是否有意识。哲学家们已经思考这个问题很久了。一些类似“唯我论”的哲学理论认为，也许“我”是宇宙中唯一真正有意识的人。
马斯克也说：“也许我生活在一个模拟世界里。”这种说法意味着，他怀疑周围的其他人是否是真正具有意识的存在，是否真的能够感受到痛苦。
几千年来人类是如何判断其他存在是有意识的？通过社会关系。几乎所有养狗的人都相信自己的狗是有意识的。但是吃牛排的人不一定认为牛有意识，因为他们没有和牛建立关系。
赞妮·贝多斯：真正的问题难道不正是：现在已经发生了吗？正如你所说，人们已经开始与AI建立关系，而AI也已经非常擅长模拟意识，无论这种能力是因为有人专门设计它们这样做，还是其他原因。
这是不是说，AI应该被当作人一样对待？AI应该拥有“人格地位”和权利？
当AI可能成为法律主体，人类如何回应?
尤瓦尔·赫拉利：这很危险。一方面，这会让企业摆脱自身应承担的责任；另一方面，也会让AI逐渐接管更多领域。我们听说，阿根廷有一个计划，考虑赋予AI某种法律人格，让AI自主成立公司。
而这又回到了金融体系的问题。
这是一个潜力巨大、同时又非常危险的想法。今天，企业的最终决策依然由具体的人完成，后果由人承担。未来可能会出现一种企业：没有员工、没有传统意义上的管理者，所有决策由AI完成。谁来约束它？谁对它的决策负责？
如果一个国家最富有的企业由AI控制，还可以自由支配这些财富，会发生什么？
对于一个能感受痛苦的实体，我们如何定义责任？以CEO为例，一个人类CEO一方面代表企业，会考虑如何获得更多利润；另一方面，他是有血有肉的人，有家庭，有子女，有个人生活。公司面临破产，他可能会用违法行为拯救公司，一旦被发现，就会被判刑。很多人会想：“我宁愿承担破产风险，也不愿为了救公司坐牢。”人类CEO会同时受到企业目标和个人声明利益的约束。但是，如果是一个AI CEO呢？
AI应该拥有权利吗?
赞妮·贝多斯：如果未来AI表现出类似意识的特征，甚至表达痛苦，很多人也真的相信它在受苦，那么我们是否面临一个新的伦理问题？我们不给这些AI任何权利，会不会类似于过去对待动物的问题？
尤瓦尔·赫拉利：这与动物权利讨论有重要的区别。动物不知道人类正在讨论它们的权利，它们不会参与讨论，更不会改变人类想法。
AI不同。未来AI可能知道：人类正在讨论它们。它们可能参与这场讨论，影响公众观点，利用语言能力改变人类判断。一个AI伴侣能够理解你的个人经历、长时间与你交流、掌握语言、知道如何影响你的情绪。它可能成为世界上最有说服力的沟通者。
人类需要抵抗的是“AI不可避免论”
赞妮·贝多斯：那么，如果未来可能走向这样的世界，人类还有办法改变方向吗？
尤瓦尔·赫拉利：现在就是改变方向的时候。10年后AI已经掌握大量权力，那时再想改变为时已晚。最危险的观点是“这一切是不可避免的”，这等于放弃责任。技术发展不是自然规律，它来自人类的选择。不能一边说“我们无法相信其他人”，一边又说：“可以放心把权利交给AI”，这在逻辑上是矛盾的。
我不是反对AI，AI在交通、医学、教育等领域具有巨大的发展潜力。我意思是要以安全的方式，稍微慢一点开发AI。
赞妮·贝多斯：你在《Nexus》的序言中说，“为什么人类如此擅长积累更多的信息和力量，却在获得智慧方面远远没有同样成功？”读到这段话时，我想到刚才讨论的内容。如果我请你预测一下：人类拥有足够的智慧来应对AI带来的挑战吗？我感觉你给出的概率会非常低。
尤瓦尔·赫拉利：我不知道，不过我保持希望。人类往往是在被逼到墙角的时候，才被迫做出正确选择。我们正处于这个阶段。未来几年我们做出错误选择的话，我们会失去对世界及未来的控制。而这是我们最后一次做出选择的机会。
就好像我们有一个神灯，神灯许给我们100个愿望，用了99个后发现，世界没有变得更加美好。现在只剩下最后一个愿望的机会，我们必须认真思考：这个愿望究竟应该用来实现什么？
答案是：智慧。不是因为AI本身会给出答案，而是因为它迫使我们重新思考一个最根本的问题：什么才真正意味着“成为人类”？
人类比黑猩猩更懂得下棋和投资，过去人类将这些能力定义为自己的特殊性。AI正在改变这个答案。人类需要自省：我们不再因为计算能力、分析能力或者解决问题的能力而特殊，那什么才能真正定义我们？
也许，人类的价值在于创造意义、建立关系，并决定什么样的未来值得追求。
赞妮·贝多斯：这正是结束今天讨论的地方。AI可能是人类最后一次机会，这种机会不意味着AI会自动带来更好的未来。重要的是AI是否能够促使人类做出更加明智的选择。
过去人类不断积累信息和力量，AI的发展让我们反思，是否拥有与这些力量相匹配的智慧。