谷歌利用人工智能来阻止黑客利用公司数字安全中的未知弱点

谷歌周一表示，它已经挫败了一个犯罪集团利用人工智能来利用另一家公司先前未知的数字漏洞的企图，引发了政府和私营行业对人工智能对网络安全风险的担忧。

谷歌分享了有关攻击者和目标的有限信息，但这家科技巨头威胁情报部门的首席分析师约翰·胡尔奎斯特(John Hultquist)表示，这代表了网络安全专家多年来一直警告的一个时刻：恶意黑客正在配备人工智能，以增强他们闯入世界计算机的能力。

“就在这里，”霍特奎斯特说。 “人工智能驱动的漏洞和利用的时代已经到来。”

这是在人工智能发现漏洞的能力激增之际，包括 Anthropic 一个月前宣布的 Mythos 模型。美国总统唐纳德·特朗普的白宫就是试图加强防御的机构之一，它改变了在公开发布之前审查最强大的人工智能模型的计划的方法。

在兑现了废除民主党总统乔·拜登对快速发展的技术的护栏的竞选承诺后，共和党政府及其盟友现在发出了关于政府在人工智能监管中发挥更大作用的复杂信号。

美国创新基金会高级研究员迪恩·鲍尔（Dean Ball）表示：“有些人不希望对此做出监管反应，而另一些人则希望这样做。”迪恩·鲍尔曾任白宫技术政策顾问，也是去年特朗普人工智能政策路线图的主要作者。

“我不喜欢监管，”鲍尔说。 “我希望事情不要受到监管。但我认为在这种情况下我们需要监管。”

谷歌表示，它发现了一群著名的“威胁行为者”，他们正在根据他们发现的漏洞计划进行重大行动。该漏洞使他们能够绕过双因素身份验证来访问流行的在线系统管理工具，但谷歌拒绝透露该工具的名称。

该公司将其称为零日漏洞，这是一种利用以前未知的安全漏洞的网络攻击。 “零日”是指安全工程师有零日时间来修复漏洞。

谷歌表示，它已通知受影响的公司和执法部门，并能够在造成任何损害之前中断运营。但当她追踪黑客的足迹时，她发现了证据表明他们使用人工智能大型语言模型来检测漏洞——这与支持流行聊天机器人的技术相同。

谷歌没有透露网络攻击中使用了哪种人工智能模型，只是说它很可能不是谷歌自己的 Gemini 或 Anthropic 的 Cloud Mythos。谷歌也没有透露怀疑哪个组织是此次攻击的幕后黑手，但表示没有证据表明该组织与任何竞争对手政府有联系，不过该公司表示，与中国和朝鲜有关的组织正在探索类似的技术。

Hultquist 表示，与通常缓慢而安静地工作的政府间谍相比，犯罪黑客从人工智能查找安全漏洞并将其武器化的“巨大速度能力”中获益最多。

他在接受采访时表示：“这是你和他们之间的一场竞赛，要在他们获得敲诈你或启动勒索软件所需的数据之前阻止他们。” “人工智能将带来巨大的好处，因为它们可以更快地移动。”

特朗普商务部上周宣布已与谷歌、微软和埃隆·马斯克签署了新协议，但后来这一公告从商务部网站上消失了。

这是特朗普政府在一个月内发出杂乱信号的最新例子，当时 Anthropic 宣布了一种名为 Mythos 的新模型，称该模型“足够有能力”进行黑客和网络安全工作，以至于只能将其发布给一小部分值得信赖的组织。

Anthropic 发起了一项名为 Project Glasswing 的计划，该计划汇集了亚马逊、苹果、谷歌和微软等科技巨头以及摩根大通等其他公司，以保护世界关键软件免受新模式可能对公共安全、国家安全和经济造成的“严重”后果的影响。但由于其人工智能技术在军事上的使用，它与五角大楼和特朗普本人的公开和法律斗争使该公司与美国政府的关系变得复杂。