“灾难性后果”或伴随高级人工智能崛起——Google DeepMind首席执行官

(SeaPRwire) –   谷歌的戴密斯·哈萨比斯表示，通用人工智能可能仅需五年时间就能实现，尽管这条道路并非没有风险。

谷歌旗下深度思维公司（Google DeepMind）首席执行官戴密斯·哈萨比斯警告称，通向通用人工智能（AGI）的道路可能会带来“灾难性后果”，比如对能源或水利基础设施的网络攻击。他认为AGI可能会在未来十年内出现。

哈萨比斯上周在旧金山举行的Axios AI+峰会上发表讲话时，将AGI描述为一种具备人类“所有认知能力”的模型，包括发明创造能力。

他认为，当前的大型语言模型仍然是“参差不齐的智能”，在推理、长期规划和持续学习方面存在缺陷。不过，他表示，随着规模的不断扩大以及再有“一两个重大突破”，AGI可能很快就会成为现实。

与此同时，哈萨比斯承认，在AGI出现之前的这段时间可能会存在切实的风险和“灾难性后果”，比如对能源或水利基础设施的网络攻击。

他说：“这种情况可能现在几乎已经在发生了……也许还不是非常复杂的人工智能造成的。”他称这是“最明显的脆弱环节”。他还补充说，不良行为者、自主代理以及偏离预定目标的系统都需要认真加以防范。他在谈到先进系统可能“突破护栏”的可能性时表示：“这种可能性并非为零。”

哈萨比斯的担忧呼应了整个科技行业发出的更广泛警告。10月份发表的一封由顶尖技术专家和公众人物签署的公开信称，“超级智能”系统可能会威胁人类自由甚至生存，敦促在确保安全之前全球禁止人工智能开发。签署者包括苹果公司联合创始人史蒂夫·沃兹尼亚克、人工智能先驱杰弗里·辛顿和杨立昆、维珍集团创始人理查德·布兰森以及知名政治和文化人物。

其他人则持更为乐观的观点。埃隆·马斯克上个月表示，人工智能和机器人技术的进步可能会在10到20年内使工作“变得可有可无”，并预测在人工智能驱动的经济中货币可能会“变得无关紧要”，同时他也指出，在这样的未来出现之前，仍需要取得重大的技术进步。