在11月的一个平凡的工作日,布莱切利公园接待着一些老年退休人员和一些吵闹的学生团体,他们来这里学习二战时期驻扎在这里的密码破译员——包括计算机先驱阿兰·图灵——以及他们如何帮助同盟国击败纳粹德国。
但这不是一个平凡的星期,也不是一些平凡的访客。
星期三和星期四,来自世界27个国家的代表以及顶级人工智能公司的负责人齐聚在这座前国有宅邸——现在是一个博物馆。其中包括:美国和中国政府的代表,Elon Musk和
这场高调活动由英国首相拉希·苏纳克领导的英国政府主办,结束了全球对人工智能安全问题的讨论升级近一年。ChatGPT近一年前首次展示——至少对许多用户来说——最新一代人工智能系统的强大通用能力。它在网络上的流行性引发了一个以前较为少见的学说,即人工智能可能在不久的将来对人类构成存在性风险,并促使全球各国政策制定者考虑是否和如何监管这项技术。这些讨论正在发生在今天的AI工具本身已经带来许多危险的警告之中,尤其是对弱势群体的危险。以及下一代系统可能比现有系统强大10到100倍,更不用说更危险。
布莱切利公园之所以被英国政府选为峰会场地,是因为它具有象征意义:它是现代计算机的一个诞生地;这里设计的破解纳粹“enigma”密码机的机器为早期可编程计算机奠定了基础。英国科技部长米歇尔·多内兰在星期三开幕峰会时谈到,她希望参会代表能够做出与此类似的成就,“推动实际可能性的边界”。
各国官员在这里没有试图就这项技术的共同强制性框架达成一致。但苏纳克在星期四宣布,AI公司在峰会上同意提前让政府访问他们的模型进行安全评估。他还宣布
苏纳克从峰会中获得的头条新闻——AI实验室将提前让政府访问他们的系统——信息量不足。苏纳克早在6月就宣布,三家领先的前沿AI公司(
苏纳克还宣布,英国的前沿人工智能任务组将发展成一个永久机构,负责进行安全评估:英国人工智能安全研究所。
尽管取得有限进展,参会代表还是欢迎这次高层讨论,认为它是国际合作监管这项技术的重要第一步——承认虽然有许多共识点,但仍有一些关键差异。
星期三,英国政府启动活动时宣布了“布莱切利宣言”,由28个国家(包括美国、英国、中国和印度)以及欧盟签署,声明人工智能在短期和长期都存在风险,肯定创建强大人工智能系统的人有责任确保它们是安全的,并承诺在识别和减轻风险方面进行国际合作。
作为峰会组织者,英国政府在传达它对人工智能风险问题的重视与传达它对科技公司开放的立场之间走了一条细线。多内兰在峰会前夕在
与此同时,美国这周做出了几项声明,似乎掩盖了英国在人工智能安全问题上的全球领导地位。星期三在伦敦发表演讲时,美国副总统卡马拉·哈里斯宣布了美国采取的一系列行动,包括建立美国人工智能安全研究所。哈里斯说该机构将制定风险评估人工智能系统的指南,并为监管机构提供有关水印人工智能生成内容和打击算法歧视的指导意见。哈里斯的声明紧随总统拜登周一签署的行政命令,要求AI公司在训练可能带来危险的模型时通知联邦政府,并在公开前与政府分享安全测试结果。
英国外交大臣詹姆斯·克莱弗利星期四淡化了美国通过其声明掩盖英国的说法。他告诉《时代》杂志:“这不是关于囤积,而是分享。我们希望每个人都参与其中。这不是独家的,而是包容性的。”
在布莱切利公园,警察在临时设立的安全围栏周围巡逻,以保护二战时期的密码破译中心。门外,压力组织“暂停人工智能”的小群体于星期三持标语和横幅抗议。该组织主张暂停训练比
会场内,主要讨论在闭门进行,但一些行业人士出来与媒体交流。
