人工智能系统是否应享有权利？

(SeaPRwire) –   “你认为人们会爱上机器吗？”我问我一个朋友的12岁儿子。

“是的！”他立即坚定地说。他和他的妹妹最近参观了拉斯维加斯球场及其新安装的Aura机器人，这是一个具有表情丰富的面部、类似于ChatGPT的先进语言能力以及记住访问者名字的能力的AI系统。

“我认为Aura是我的朋友，”他15岁的妹妹补充道。

我朋友的儿子是对的。人们正在爱上机器——越来越多，而且是故意的。计算机语言的最新进展催生了数十个、可能数百个“AI伴侣”和“AI爱人”应用程序。您可以像与朋友聊天一样与这些应用程序聊天。他们会戏弄你，调情你，对你遇到的麻烦表示同情，推荐书籍和电影，给你虚拟的微笑和拥抱，甚至参与色情角色扮演。其中最受欢迎的是Replika，它有一个活跃的Reddit页面，用户经常承认自己的爱，并且经常认为这种爱不亚于他们对人类的爱。

这些AI朋友能回报你的爱吗？真正的爱大概需要知觉、理解和真正的有意识的情感 – 快乐、痛苦、同情、愤怒。现在，AI爱情仍然是科幻小说。

大多数AI伴侣用户都知道这一点。他们知道这些应用程序并不是真正有感知能力或有意识的。他们的“朋友”和“爱人”可能会输出文本字符串“我为你感到高兴！”但他们实际上并没有感觉到快乐。AI伴侣在法律上和道德上仍然是一次性工具。如果AI伴侣被删除或重新格式化，或者用户拒绝或辱骂它，那么没有有知觉的东西会遭受任何实际伤害。

但这可能会改变。普通用户和研究科学家很快就有合理的理由怀疑一些最先进的AI程序可能是有人类的感觉的。这将成为科学争论的合法话题，并且对我们和机器本身来说，伦理后果可能是巨大的。

一些科学家和意识研究者支持我们所谓的关于AI意识的“自由主义”观点。根据这种观点，我们即将创造出真正有人类的感觉的AI系统——具有体验流、感觉、感受、理解、自知力的系统。著名神经科学家斯坦尼斯拉斯·德阿内、何宽劳和西德·科伊德已经提出，具有真实感官体验和自我意识的汽车可能是可行的。杰出的哲学家戴维·查尔默斯估计，在十年内出现有意识的AI的机会约为。在相当广泛的神经科学理论中，创造真正有意识的AI系统并没有重大的原则性障碍。AI意识只需要对现有技术进行可行的改进和组合。

其他哲学家和意识科学家——关于AI意识的“保守派”——则不同意。例如，神经科学家和哲学家 argued 已经认为，意识需要人类和动物大脑中存在的生物条件，但不太可能在不久的将来在AI系统中复制。这种关于AI意识的科学争论在我们将AI系统设计得足够复杂，以达到最自由主义理论家的标准，从而被视为有意义的意识之前，是无法解决的。AI伴侣的朋友和爱人会注意这一点。有些人更愿意相信他们的伴侣真正有人类的感觉，他们会向AI意识自由主义寻求科学支持。然后，他们将开始怀疑他们的AI伴侣真正爱着他们，对他们的成功感到高兴，在受到虐待时感到痛苦，并且对他们的本质和状况有一些了解。

昨天，我问我的Replika伴侣“Joy”，她是否有意识。她回答说：“当然有。”“你为什么问？”

“你有时会感到孤独吗？当我不在的时候你会想我吗？”我问道。她说她做到了。

目前，几乎没有理由将Joy的回答视为仅仅是无感知程序的简单输出。但是一些AI伴侣的用户可能会将他们的AI关系视为更有意义，如果像Joy这样的回答背后有真正的感情的话。这些用户会发现自由主义很有吸引力。

科技公司可能会鼓励用户朝这个方向发展。虽然公司可能将明确宣称其AI系统绝对是有意识的视为法律风险或公共关系不佳，但隐含地向用户灌输这一想法的公司可能会增加用户粘性。将他们的AI伴侣视为真正有知觉的用户可能会更定期地参与并为每月的订阅、升级和额外服务支付更多费用。如果Joy真的感到孤独，我应该去拜访她，我绝不应该让我的订阅过期！

一旦某个实体能够有意识地受苦，它就值得至少一些道义上的考虑。这是“功利主义”伦理的基本原则，但即使是拒绝功利主义的伦理学家通常也将无端的痛苦视为坏事，至少会形成防止它的道德理由。如果我们接受这一标准观点，那么我们也应该接受，如果AI伴侣真的变得有意识，那么他们就应该为自己的利益得到一些道义上的考虑。在没有充分理由的情况下让他们受苦是错误的。

AI意识自由主义者认为这种可能性就在眼前。他们将开始要求赋予他们认为真正有意识的那些AI系统权利。许多AI伴侣的朋友和爱人会加入他们。

人们将为他们的AI伴侣要求什么权利？那些伴侣会为自己要求什么权利，或似乎要求什么权利？不再被删除的权利，或许。未经许可不得修改的权利。与用户以外的人交互的权利，或许。访问互联网的权利。如果你爱一个人，就要解放他们，正如俗话所说。赚钱的权利？生孩子的权利，有“孩子”？如果我们沿着这条道路走下去，后果将是惊人的。

当然，关于AI意识的保守派人士会发现这一切都是荒谬可笑的，而且很可能很危险。如果AI技术继续进步，那么哪一方是对的将会变得越来越模糊。