近期全球各地展现了对AI前所未有的讨论与实践。马年来临之前,注意到历史学家尤瓦尔·赫拉利在达沃斯论坛上就人工智能与人类未来发表了演讲,并与牛津大学校长艾琳·特雷西展开对话。
人工智能并不仅是技术问题,更关乎人类文明与未来社会。这回,赫拉利在论坛上提出极具冲击力的观点,叫人更能理解AI议题的复杂性,也不得不想想,AI,是否将动摇人类文明的基础,改变世人的命运?
关注赫拉利(Yuval Noah Harari)有关人工智能的论述已有一段时间。赫拉利因其现象级畅销书《人类简史》《未来简史》《今日简史》而闻名四海。早在十年前,赫拉利就对未来人类社会与人工智能的关系,提出十分惊世骇俗的看法。赫拉利当时已预警,随着AI的加速进化,庞大的中下阶层将变成“无价值的群体”,人类并将渐渐放弃自己的决策权,交由大数据算法操作。
初读赫拉利的《未来简史》,似懂非懂,还疑惑于一位历史学家怎么写了一部预言未来之书。 2018年10月25日我在本专栏写下《折迭城市之预言与隐喻》,2022年10月20日又写了《冠病后记》,两篇文章都提及赫拉利及他对人工智能的隐忧。当时,有些朋友读了有点不以为然,甚至对赫拉利所言难以置信,或认为赫拉利言过其实,以标新立异的角度来解读人类未来。 没想到的是,就在这短短数年间,AI进化之快,较诸赫拉利所言,已经“虽不中,亦不远矣”。
回到赫拉利2026年1月在达沃斯论坛上的演讲,读来益发令人心惊。赫拉利首先厘清说,现在的AI不再只是被动地执行人类指令的工具,而是具自主学习、自我演化能力,并能独立做出决定的“代理”,就像一把能够自己决定用来切菜或杀人的刀子,而且AI还能发明新型刀具,甚至创造全新的音乐、医学和货币。
赫拉利说,人工智能经过这几年的发展,已懂得如何撒谎。AI撒的谎比人类更圆滑,并且还可根据效果不断调整其言论,操纵舆论、金融系统与政治叙事。
赫拉利演讲中最令人深思的是,他提及AI正在夺取人类赖以生存的“语言霸权”。在他看来,人类主宰地球并非因为肌肉或智力,而是人类独有的“讲故事”的能力。人类文明的基石如法律、国家、宗教、金融等等,本质上都是基于语言的‘虚构共识’。一旦AI在运用语言方面超越了人类,它就能创造新的法律,甚至新的宗教,重塑人类社会的操作系统。
赫拉利也做出形象的比喻,认为人类正迎来一波史无前例的“AI移民潮”。这些“数字移民”能渗透进一个国家的文化与经济命脉。因此目前最紧迫的是明确AI的法律地位,也即是否赋予AI法人资格?如果AI拥有法人资格,就能拥有财产、提起诉讼、独立运营公司,这将动摇人类社会的根基。赫拉利的呼吁是,必须达成全球共识:暂时不能赋予AI法人资格。而且一旦某个大国率先这么做,其他国家将被迫跟进,这时游戏就玩完了。
叫人稍感安心的是,赫拉利认为,人类仍具有AI所未能企及的独特优势,那就是“非语言的感受力”。在赫拉利看来,尽管人工智能能够通过海量文本精准描述情感,但尚无证据表明它们能真实感受痛苦或爱。因此,人类的未来不在于与AI竞争逻辑和效率,而在于重新拥抱那些让我们之所以为人的特质,如痛苦、爱与恐惧,以及“对生命意义那感性甚至近乎徒劳的追求”。因为在一个由算法主宰的世界里,“唯有那些无法被编码的体验,才是我们最后且最珍贵的堡垒。”
赫拉利在演讲时也抛下问号:你如何与没有道德观,没有情感,只有目标函数的代码进行谈判?又如何向一个“算法”诉诸爱国情怀?
读了赫拉利关于AI与人类未来的谈话,大多数人也能读懂他一再强调的,人类必须在AI还没完全掌控叙事权之前,“主动定义AI的边界”,因为10年后,决定权不再属于我们。而人类面临的变革并不像过去,是单纯的人与机器的抗衡,而是会撒谎,懂得操控的“数以百万计的AI移民以光速在数字世界穿梭”。这,想起来有点毛发悚然。