担心有感知力的 AI？看看章鱼吧

(SeaPRwire) –   随着AI技术的不断突破,人们再次产生了“奇点”理论的担忧,即计算机将脱离人类控制的那一点。然而,如果我们从自然界寻找视角,可能会对当前AI能做和不能做的事情有更深入的理解。以章鱼为例。现存的章鱼是进化的杰作——它们可以变换各种形态,装备着各种武器和隐身伪装能力,并且似乎能根据情况选择使用哪一种。然而,尽管机器人技术研究已有几十年历史,但它还远未能复制章鱼这一套完整的能力,这也不足为奇,因为现代章鱼是经过1亿万代进化形成的。相比之下,机器人技术在创造具有哈尔一样能力的机器人上还有很长的路要走。

章鱼不仅是一个复杂的自动机器,意识不仅是对海量数据库的访问。动物意识研究的先驱唐纳德·格里芬几十年前就提出了一个革命性的看法,他认为很广泛的物种都具有某种程度的意识,这从进化论上来说是高效的(他在多次会议上重复提出这个论点)。所有存活下来的物种都代表了在生存和繁殖问题上的成功解决方案。格里芬认为,鉴于环境中威胁和机会的复杂性和不断变化,从自然选择的角度来看,即使是最原始的生物也应该具有一定程度的决策能力,而不是为每一个物种制定每个情况的应对方案。

这种说法是合理的,但需要一个注释:格里芬的论点尚未成为共识,动物意识的争论至今仍然存在争议。不管怎样,格里芬的假设为我们理解AI的局限性提供了有用的框架,因为它强调在复杂变化的环境中无法预设应对方案。

格里芬的框架还提出了一个挑战:环境中随机应对挑战如何促进意识的形成?再次以章鱼为例。头足类动物在3亿多年的进化中不断适应海洋。它们虽为软体动物,但逐渐失去了壳,发展出了复杂的眼睛、极为灵活的触手,以及一套能在分秒之间改变皮肤颜色甚至质地的系统。所以,当章鱼遇到掠食者时,它能感知危险,并必须决定是否逃跑、伪装或用墨汁迷惑对手。这些选择压力促进了它们每个系统的进一步发展,如触手、颜色变化等更精细的控制能力,也促进了章鱼能选择使用哪个或哪些系统的大脑进化。这可能解释了为什么章鱼的大脑是无脊椎动物中最大的,远大于贝壳动物。

这里还涉及一个概念,即“生态过剩能力”。即促进某一适应性进化的环境选择压力,可能也促进了控制该能力的额外神经细胞的进化。随着控制能力的扩展,意识可能也会超出原有的捕食或逃避掠食的实用范围。这就是意识可能从纯粹实用的机械起源中产生的过程。

不管多么平淡,形成现代章鱼的信息量已远超过全球所有计算机的总容量,即使所有计算机都用于产生一个决策章鱼。今日章鱼每分钟都在处理和应对数以百万计的信息。在3亿年的进化中,每只章鱼的一生都在处理和应对数以百万计的信息,每只章鱼都参与了数以亿计的各种组合的实验。这些实验的总和就形成了难以想象的数量。

然而,如果意识能从纯粹的实用能力中产生,随之可能产生个性、品质、道德观和马基雅维利主义行为,为什么AI算法中不可能产生意识呢?同样,根据格里芬的理论,自然界可能是通过赋予生物处理新情况的能力来促进意识的形成,而AI的设计者却选择了全面硬编码的方法。与章鱼不同,AI目前可以说是非常复杂的自动机器。

2001年我写过一篇文章时,研究人员已经多年在试图创造章鱼机器人。根据章鱼生物学和行为专家罗杰·汉伦的说法,当时他们的进展并不大。20多年后,一些项目已经实现了章鱼的一些部分,如具有许多触手特征的软机器人手臂,现在还有一些项目开发用于深海探索等特定任务的章鱼样软机器人。但真正实现机械章鱼的梦想目前还很遥远。

AI目前采取的路径上,机械章鱼将是一个遥不可及的梦想。即使研究人员真的创造出机械章鱼,章鱼虽是自然奇迹,但它不会像《23号信号》中的巴特或和谐,也不会像《她》中的萨曼莎,更不会像《2001太空漫游》中的哈尔一样。简而言之,AI近年来采用的硬编码模型是实现自主的死胡同。

要解释原因,需要回到早期AI热潮时期。20世纪80年代中期,我曾与Intellicorp公司(AI领域的早期公司之一)合作。物理学家托马斯·凯勒是Intellicorp以及之后几家AI公司的联合创始人,他亲眼目睹了AI应用从帮助航空公司动态定价机票的专家系统,到驱动ChatGPT的大规模语言模型的发展过程。他的职业生涯记录了AI的整个历史。凯勒指出,AI的早期研究者曾花费很多时间试图开发模型和编程技术,让计算机能像人类一样解决问题。他们认为,计算机可能展示通用智能的关键是理解上下文的重要性。例如,麻省理工学院的马文·明斯基就设计过一种方法,将一个给定上下文中的各种对象打包成计算机可以查询和操作的东西。事实上,这种数据和感知信息打包的范式可能与章鱼大脑在决定如何捕食或逃跑时所进行的处理很相似。凯勒指出,这种软件开发方法已成为行业标准,但它并没有导致自主智能的产生。

一个原因是AI开发者后来转向了不同的架构。随着计算机速度和内存空间的急剧增长,可获取的数据量也大幅增加。AI开始使用所谓的大规模语言模型,这种算法通过大量数据集进行训练,利用概率分析来“学习”数据、词汇和语句如何相互关联,从而能够生成适当的回答。简而言之,这就是ChatGPT的基础设施。这种架构的一个限制是“脆弱性”,即它完全依赖于训练的数据集。正如《技术评论》杂志上的一篇文章中罗德尼·布鲁克斯这样指出,这种机器学习与人类的海绵式学习或通用智能不同。ChatGPT无法超越其训练数据范围,在这方面它只能提供硬编码的回应。它基本上就是一种预测文本。