世界未为AI紧急情况做好准备

(SeaPRwire) –   想象一下，你一觉醒来，发现互联网时断时续，银行卡支付失败，救护车开往错误地址，而你不再确定是否能信任紧急广播。无论是模型故障、犯罪利用还是不断升级的网络冲击，一场由人工智能驱动的危机都可能迅速跨越国界。

在许多情况下，人工智能紧急情况的最初迹象可能看起来像一般的停电或安全故障。只有在之后，甚至可能根本不会，才会清楚地发现人工智能系统在其中发挥了实质性作用。

一些政府和公司已经开始建立护栏来管理此类紧急情况。欧盟人工智能法案、美国国家标准与技术研究院风险框架、G7广岛进程以及国际技术标准都旨在预防损害。网络安全机构和基础设施运营商也为黑客攻击、停机和常规系统故障制定了运行手册。目前缺少的不是修补服务器或恢复网络的技术手册，而是在人工智能处于快速发展危机中心时，预防社会恐慌以及信任、外交和基本沟通崩溃的计划。

预防人工智能紧急情况只是工作的一半。人工智能治理缺失的另一半是准备和响应。谁来决定人工智能事件已成为国际紧急情况？当虚假信息充斥人们的信息流时，谁来向公众发声？如果正常沟通渠道受损，谁来保持政府间的沟通畅通？

各国政府能够也必须在为时过早之前制定人工智能应急响应计划。在我即将发表的基于灾害法和其他全球紧急情况经验教训的研究中，我将探讨现有国际规则如何已经包含了人工智能行动手册的组成部分。各国政府已经拥有法律工具，但现在需要就如何以及何时使用它们达成一致。我们不需要新的、复杂的机构来监督人工智能——我们只需要各国政府提前做好规划。

如何为人工智能紧急情况做准备

我们以前见过这种普遍的治理模式。《国际卫生条例》允许世界卫生组织宣布全球卫生紧急情况并协调行动。核事故条约要求在辐射可能跨越国界时迅速通知。电信协议清除了法律障碍，以便紧急卫星设备能够迅速启用。网络犯罪公约设立了24/7联络点，以便警察部队能够迅速合作。这些经验表明，预先商定的触发机制、指定的协调员和快速沟通渠道可以在紧急情况下节省时间。

人工智能紧急情况需要同样的基础。首先是共享定义。人工智能紧急情况应是由人工智能的开发、使用或故障引起的异常事件，可能造成严重的跨境损害，并超出任何一个国家应对的能力。至关重要的是，它还必须涵盖人工智能参与仅被怀疑或只是几个可能原因之一的情况，以便政府能够在法医确定性到来之前采取行动，如果它能到来。大多数事件永远不会达到那个级别。提前商定定义有助于避免在最初的关键时刻陷入瘫痪。

接下来，各国政府需要一本实用的行动手册。这本手册的第一个要素应该是定义一套共同的触发机制和基本的严重程度等级，以便官员知道何时从常规事件升级为国际警报，包括确定人工智能参与仅是可信怀疑而非确凿证据的标准。第二章应包括任命一名全球协调员，他可以迅速召集会议，并得到技术专家、执法伙伴和灾害专家的支持。第三部分应是建立可互操作的事件报告系统，以便各国和公司能够在几分钟而不是几天内交换基本信息。接下来，我们必须创建使用经过认证的模拟方法（如无线电）的危机通信协议。最后，我们必须制定一份清晰的连续性和遏制措施清单。这些措施可能包括减缓高风险人工智能服务或将关键基础设施切换到手动控制。

构建人工智能应急准备

那么，谁应该监督这些人工智能应急准备倡议呢？我的答案是：联合国。

将这一系统置于联合国框架内具有多重重要意义。其一，人工智能紧急情况不会顾及联盟。一个以联合国为基础的机制能够提供更广泛的包容性，并减少竞争联盟之间的重复工作。它为缺乏先进人工智能能力的国家提供技术援助，从而避免少数大国承担全部负担。它增加了合法性和制约性。非常规权力必须合法、相称且可审查，尤其是在它们触及数十亿人使用的数字网络时。

这一国际层面需要与各国政府现在可以采取的国内措施相匹配。每个国家都应指定一个24/7的人工智能紧急联络点。应审查紧急权力，以确定它们是否涵盖人工智能基础设施。部门计划应与基本的事件管理和业务连续性标准保持一致。应进行联合演习，以演练虚假信息浪潮、模型故障和跨部门中断。在敌对攻击强制进行此类更新之前，应优先考虑向后量子密码学的迁移。政府还应注册可信发送者和警报模板，以便在系统不稳定时信息仍能传达给公民。

这些预防措施是必要的。据报道，与人工智能相关的网络攻击正在增加，许多国家已经经历了小规模的停机、数据操纵尝试和虚假信息激增，这些都预示着更大规模事件可能的样子。更重要的是，快速发展的人工智能故障可能与当今高度互联的基础设施相结合，产生一场任何一个国家都无法单独应对的危机。

这并非呼吁建立一个新的全球超级机构。这是呼吁将现有的一切整合起来，形成一个连贯的响应机制。我们需要一本人工智能应急行动手册，借鉴这些工具并进行演练。

衡量人工智能治理的标准将是我们如何在最糟糕的一天做出反应。目前，世界还没有应对人工智能紧急情况的计划——但我们可以创建一个。我们必须现在就建立它，测试它，并通过保障措施将其纳入法律，因为一旦下一次危机开始，就为时已晚了。