一位高级加利福尼亚州立法者将于周三向该州参议院提出一项新的人工智能(AI)法案,这将补充国家和全球对这项快速发展的技术的监管努力。
尽管国会正在起草多项AI立法,但加利福尼亚州(硅谷所在地,世界上大多数顶级AI公司都设在这里)在为该行业设定警戒线方面发挥着作用,根据起草该法案的州参议员斯科特·维纳(Scott Wiener,民主党-旧金山)的说法。
“在理想的世界里,我们会有一个强大的联邦AI监管方案,”维纳在周二接受TIME杂志采访时表示,并补充说他支持国会和白宫对这项技术的监管尝试。“但加利福尼亚州有一个历史,那就是当联邦政府行动太慢或不采取行动时,加州就会采取行动。”
他还表示:“我们需要提前预见这些风险,而不是我们过去在社交媒体或其他技术方面所做的那样,在可能为时已晚之前什么都不做。”
该法案针对的是处于能力临界点的“前沿”AI系统。它建议对需要超过一定数量的计算能力来训练的系统实施透明度要求——法案没有具体指定该阈值——这些系统应受到透明度要求的约束。它建议对“未能采取适当预防措施”以防止高级AI系统意外后果和恶意使用的人确立法律责任。它还建议制定安全措施,以防止尖端AI落入外国国家之手。该法案呼吁加利福尼亚州建立“CalCompute”,这是一个拟议的州研究云,它将为像学术界和创业公司这样的大型行业之外的团体提供进行高级AI工作所需的计算基础设施。
“立法机构担心未来前沿AI模型的开发或部署可能产生危险甚至灾难性的意外后果。”该法案说。“AI技术在技术上的快速进步要求立法采取前瞻性的方法来预测当前和未来技术变种对公共安全的风险,以实现对技术全部潜力的安全利用,造福公众。”
然而,与到目前为止的AI监管努力一样,该法案在细节上比较轻。作为一项所谓的意图法案,它不到3页,只给出了加州AI立法的大致轮廓。根据维纳办公室发布的一份独立说明书,其目的是确立加州立法机构“制定规范AI开发的全面规则”的意图,同时允许该提案“在正式立法程序开始之前,生成一段时间的讨论和反馈”。计划是在2024年1月前修改完整文本,以便法案在2024年通过立法机构(民主党在两院都占绝对多数)并最早在2025年初成为法律。
维纳告诉TIME,他希望由州立法机构决定法案规定生效的适当计算能力阈值,以及未采取足够预防措施的责任是否应由企业还是个人承担。他说:“这有待讨论和决定。我不想对此先入为主。我想要的是一套能真正激励公司和实验室认真对待这件事并做对的系统。”
维纳承认,目前加利福尼亚政府没有能力审核AI系统或完全执行该法案。他说:“我不认为有任何机构能够立即实施这项措施。这场对话的绝对部分需要的是:哪个机构?是一个现有机构,其任务范围可以扩大吗?或者是一个新的机构?”他说,这最终将由加利福尼亚州州长加文·纽森(Gavin Newsom)决定。
“如此多的AI创新都发生在加利福尼亚州,”维纳说。 “因此,当加利福尼亚州制定AI规则时,这将对全球产生影响。”
但作为AI公司的大本营同时寻求为它们建立监管框架,这可能会使渴望促进创新和经济增长的政策制定者产生冲突。另外,早些时候在9月,纽森发布了一项行政命令,呼吁采取“渐进的方法”来应对AI,减轻其风险,同时“保持世界AI领导地位”。这项行政命令呼应了英国(领先的AI实验室DeepMind总部所在地)今年早些时候的一项政策建议,强调政府需要避免“重手”监管AI的做法,这会扼杀创新。
