王蒙多2024年10月12日发布:《人类简史》作者谈AI：2028年美国总统竞选可能不再由人类主持

近日，《人类简史》作者、以色列历史学家尤瓦尔·赫拉利（Yuval Harari）与参与制作知名纪录片《监视资本主义：智能陷阱（The Social Dilemma）》的特里斯坦·哈里斯（Tristan Harris）和阿扎·拉斯金（Aza Raskin）共同撰文，呼吁人类争取时间，为应对人工智能世界而升级现有机构（这套机构仍然源自19世纪），并在人工智能掌控人类之前学会掌控它。

《人类简史》作者、以色列历史学家尤瓦尔·赫拉利。

这篇题为《你可以拥有蓝色药丸或红色药丸，我们已经没有蓝色药丸了》的文章发表在《纽约时报》。红色药丸与蓝色药丸（red pill and blue pill）是一种流行的迷因，意思是在令人不安的知识和残酷现实的“红色药丸”与保持愚昧并继续过着平凡生活的“蓝色药丸”之间做出选择。

文章指出，未对产品进行严格的安全检查，药品公司不能向人们出售新药。生物技术实验室不能为了打动股东而将新病毒发布到公共领域。同样，具有GPT-4及以上能力的人工智能系统，其卷入数十亿人生活的速度，不应该超过文化能安全吸收它们的速度。为了主导市场而展开的竞赛，不应该设定部署人类最重要技术的速度。

“自20世纪中期以来，人工智能的幽灵一直困扰着人类，但直到最近，它仍然是一个遥远的前景，是属于科幻小说而不是严肃科学和政治辩论的东西。我们人类的头脑很难掌握GPT-4和类似工具的新能力，更难掌控这些工具发展更先进和更强大能力的指数级速度。但大多数关键技能归结为一件事：操纵和生成语言的能力，无论是用文字、声音还是图像。”文章写道。

“起初是文字。语言是人类文化的操作系统。从语言中产生了神话和法律，众神和金钱，艺术和科学，友谊和国家，以及计算机代码。人工智能对语言的掌握，意味着它现在可以入侵并操纵文明的操作系统。通过对语言的掌握，人工智能正在夺取文明的万能钥匙，从金库到圣墓。”文章继续写道。

对人类来说，生活在这样一个世界里意味着什么？“在这个世界里，很大比例的故事、旋律、图像、法律、政策和工具都是由非人类智能塑造的，它知道如何以超人的效率利用人类思维的弱点、偏见和成瘾，同时知道如何与人类形成亲密的关系？在像国际象棋这样的游戏中，没人有希望能击败计算机。当同样的事情发生在艺术、政治或宗教领域时会发生什么？”作者问道。

“AI可以迅速吃掉整个人类文化——我们几千年来产生的一切——消化它，并开始涌出大量的新文化艺术品。不仅仅是学校作文，还有政治演说、意识形态宣言、新邪教的圣书。到2028年，美国总统竞选可能不再由人类主持。”

这篇文章认为，人类往往不能直接接触到现实，而是被文化所笼罩，通过文化棱镜体验现实。“我们的政治观点是由记者的报道和朋友的轶闻形成的。我们的性偏好是由艺术和宗教来调整的。到目前为止，这个文化之茧是由其他人类编织的。通过非人类智慧产生的棱镜来体验现实会是什么样子？”

“几千年来，我们人类一直生活在其他人类的梦中。我们崇拜神灵，追求美丽的理想，并把我们的生命献给源于某些先知、诗人或政治家想象的事业。很快，我们也会发现自己生活在非人类智慧的幻觉中。”

文章举例称，《终结者》系列电影描绘了机器人在街上奔跑和射击的场景。《黑客帝国》假设要获得对人类社会的完全控制，人工智能将不得不首先获得对我们大脑的物理控制，并将它们直接连接到计算机网络。然而，只要掌握了语言，AI就会拥有它所需要的一切，将人类控制在一个类似母体的幻觉世界中，而不需要向任何人开枪或在大脑中植入任何芯片。如果有必要开枪，人工智能可以让人类扣动扳机，只需要对人类讲述合适的故事即可。

文章指出：“社交媒体是人工智能与人类的第一次接触，而人类输了。第一次接触让我们尝到了随之而来的苦果。在社交媒体中，初期的人工智能不是用来创造内容，而是用来组织用户生成的内容。新闻瀑布流背后的人工智能仍然在选择哪些文字、声音和图像到达我们的视网膜和耳膜，其依据是选择那些将获得最广传播、最大反应和最多参与的内容。

“虽然非常原始，但社交媒体背后的人工智能足以创造出一幕幕幻象，加剧了社会的两极分化，破坏了我们的心理健康，并使民主解体。数以百万计的人将这些幻觉与现实混淆。美国拥有历史上最好的信息技术，但美国公民却无法再就谁赢得选举达成共识。尽管现在每个人都已经意识到了社交媒体的弊端，但由于我们太多的社会、经济和政治机构已经与之纠缠在一起，所以这个问题还没有得到解决。

纪录片《监视资本主义：智能陷阱》揭示了人类日益依赖社交媒体带来的后果。

“大型语言模型是我们与人工智能的第二次接触，我们不能再输了。但是，我们应该在什么基础上相信人类有能力使这些新形式的人工智能与我们的利益相一致？如果我们继续像往常一样，新的人工智能能力将再次被用来获得利润和权力，即使它在无意中破坏了我们社会的基础。”

文章最后强调，人工智能确实有潜力帮助战胜癌症，发现拯救生命的药物，为气候和能源危机提供解决方案，还有无数无法想象的其他好处。“但是，如果地基坍塌，人工智能组装的利益摩天大楼有多高也不重要了。”

作者发出呼吁：“在我们的政治、经济和日常生活变得依赖人工智能之前，是时候重视人工智能了。民主是一种对话，对话依赖于语言，而当语言本身被入侵时，对话就会中断，民主就会变得无法维持。如果我们等待混乱的发生，再来补救就太晚了。

“我们已经召唤出了一个外星智能。我们对它了解不多，只知道它非常强大，为我们提供了令人眼花缭乱的礼物，但也可能破坏我们文明的基础。我们呼吁世界各国领导人以对应其挑战的水平来应对这一时刻。第一步是争取时间，为人工智能世界升级我们19世纪的机构，并在人工智能掌控我们之前学会掌控它。”

尤瓦尔·赫拉利长期关注人工智能对世界的影响，著有《人类简史》《未来简史》和《今日简史》等书籍，并创办了Sapienship国际咨询公司。特里斯坦·哈里斯和阿扎·拉斯金是“人道主义技术中心（Center for Humane Technology）”的创始人，他们参与制作的纪录片《监视资本主义：智能陷阱》也被译作《社交陷阱》，揭示了人类日益依赖社交媒体带来的后果：人类社会正面临一个生死攸关的危机，被人工智能、大数据和算法模型所控制，导致出现最近几年的分裂和混乱。