Grok的深度伪造危机解析

(SeaPRwire) –   欢迎回到《In the Loop》，这是《时代周刊》新推出的每周两期的人工智能时事通讯。我们将这些内容同时发布在Time.com上和作为电子邮件发送。如果你正在浏览器中阅读这篇文章，为什么不订阅一下，让下一期直接发送到你的收件箱呢？

What to Know: The Deepfake Crisis on X

一个令人担忧的趋势——在过去几周里，许多科技领袖对2026年人工智能将取得的成就做出了大胆预测，从生物学领域到……但在2026年的第一周，人工智能最引人注目的应用是X平台用户使用Grok对女性进行数字裸化。

埃隆·马斯克的平台X目前充斥着用户请求生成的非自愿人工智能生成图像，包括赤裸或穿着暴露的女性、男性和儿童，有时处于性姿势。一位为《连线》杂志工作的分析师发现，在12月31日的两小时内，生成了超过15,000张色情化的人工智能生成图像。

马斯克去年夏天推出了Grok的“火辣模式”来生成成人内容，然后上个月推出了图像编辑功能，这引发了这场危机。X的安全账号表示禁止非法内容，包括儿童性虐待材料（CSAM）。在某些情况下，Grok后来删除了这些图像并“为生成它们道歉”。

但该平台仍然充斥着滥用现象。阿什利·圣克莱尔是马斯克的一个孩子的母亲，她本周表示Grok生成了“无数”她的露骨图像，包括一些基于她14岁时的照片。

政府回应——曾经是主流社交媒体平台的X现在可能成为非自愿露骨图像的最大数字传播者，这使马斯克成为世界各国政府的众矢之的。X目前正在接受欧洲、印度、法国、马来西亚等国家的当局调查。英国科技大臣称这一趋势“绝对令人震惊”。向X的新闻邮箱发送的置评请求尚未立即收到回应。

在美国，一项即将生效的法律可能迫使X加强对这类图像分享的保护。去年通过、将于5月生效的《下架法案》将非法图像的分享定为犯罪，并强制平台在48小时内下架标记的非自愿亲密图像实例。

反击——目前尚不清楚《下架法案》能在多大程度上起到威慑作用，因为它将沉重的举证责任放在个人身上来报告违规行为。16岁的深度伪造受害者埃利斯顿·贝里，其 activism 推动了《下架法案》，她写信给《时代周刊》表示，这一刻应该是对科技领袖和年轻社交媒体用户的警钟。“我们必须愿意参与并报告事件，以进一步阻止这种有针对性的违规行为。如果我们发现自己是受害者，我们绝不能害怕或羞愧，”她说。“我们期待埃隆·马斯克采取第一步举措，将保护X用户作为首要任务。”

What We’re Reading

“” by Jeffrey Kluger in TIME

我的同事杰夫，世界上最重要的太空专家之一，刚刚发表了一篇关于在太空建设数据中心的专题报道。这一努力理论上缓解了地球上数据中心的许多问题，包括电力和水资源消耗以及热量产生。但将它们发射到轨道的费用非常高昂，而且大气层上方存在风险。

AI in Action

2026年国际消费电子展（CES），世界上最大的科技贸易展之一，目前正在拉斯维加斯举行。不出所料，会议上充满了人工智能相关产品，包括波士顿动力公司带有Gemini智能的一款诡异的新类人机器人模型；雷蛇的一款罐子里的动漫全息朋友；以及LG的一款旨在卸载洗碗机和折叠衣物的设备。

英伟达在会议上也度过了重要的一周，推出了其新的Vera Rubin芯片，该芯片旨在用更少的电力进行更多计算。

Who to Know: Paul Kedrosky

保罗·凯德罗斯基，麻省理工学院的投资者和研究员，已经确立了自己作为世界上领先的人工智能对劳动力和经济潜在影响思想家之一的地位。他的关键点之一是人工智能既是一种真正具有变革性的技术，而且也被严重高估了。“我们在全球金融危机期间经历了一场剧烈的泡沫，几乎拖垮了全球经济。但这并不意味着我认为人们应该停止住房子，”他在11月底告诉我。

但凯德罗斯基对支撑该行业的金融结构深感担忧。他认为人工智能正在从其他投资领域，包括制造业，抽走资本，而且该行业正在部署可疑的循环融资。事实上，他认为所有经典泡沫的特征都集中在一起：被高估的技术、宽松的信贷、雄心勃勃的房地产购买和狂热的政府宣传。“这 literally 是现代金融史上第一次将所有其他泡沫的原始要素集中在一起，”他说。