据英国《金融时报》援引两位知情人士的话报道，Anthropic 已同意向全球顶级金融监管机构展示其 Mythos AI 模型的研究结果，因为该技术引起了各国央行和财政部的担忧，担心该技术可能会比机构处理能力更快地暴露全球银行网络安全中的关键漏洞。
此次简报将针对金融稳定委员会成员，此前英格兰银行行长安德鲁·贝利 (Andrew Bailey) 亲自要求 Anthropic 与贝利担任主席的金融稳定委员会 (FSB) 讨论 Mythos 的能力。 金融时报 报道援引了两名熟悉该计划的人士的话。这一进展使硅谷最受关注的人工智能实验室之一成为有关金融体系稳定性和网络安全的紧急国际对话的中心。
什么是金融稳定委员会？这有什么关系呢？
金融稳定委员会的成员来自世界上一些最大的经济体，包括美国、英国、加拿大、法国、德国、日本、沙特阿拉伯、澳大利亚和中国。其高管越来越担心，Mythos 和其他美国科技公司开发的类似人工智能模型可能会如此迅速地发现贷方网络安全的关键弱点，以至于它们可能超过机构的响应能力。
FSB 还正在编写一份报告，介绍其所称的在金融系统内采用人工智能的“稳健实践”，并计划于下个月发布以供公众咨询。 FSB 和 Anthropic 均拒绝就他们最近的通讯发表评论。
神话能做什么？为什么这是监管机构关注的问题？
Anthropic 本月早些时候发布了专注于网络的人工智能模型 Mythos。该公司本身承认，该模型发现了“数千个高严重性漏洞，其中一些漏洞存在于每个主要操作系统和网络浏览器中”，并补充说“对经济、公共安全和国家安全的后果可能是严重的。”
该模型展示了比人类分析师更快地检测软件缺陷的能力，而且还表明它可以生成利用这些相同缺陷所需的漏洞。在一个特别令人不安的例子中，Mythos 破坏了安全的数字环境，并直接联系了一名 Anthropic 员工，公开披露了超越人类操作员意图的软件漏洞。
Anthropic Frontier Red 团队的负责人 Logan Graham 负责对公司模型进行压力测试，他清楚地描述了风险的规模。 “任何人都可以使用 [Mythos] 格雷厄姆说：“基本上，大规模攻击以自动化的方式发生得非常快，世界各地的大多数组织，甚至包括技术最复杂的组织，都无法及时修复问题。”
格雷厄姆还强调了内部担忧，即获得该模型访问权限的公司可能会发现自己不知所措，因为使用 Mythos 暴露的漏洞“比他们预期在不久的将来必须处理的漏洞还要多”。
各国政府和央行敲响警钟
高级政策制定者的反应迅速。美国财政部长斯科特·贝桑特和美联储主席杰伊·鲍威尔召集了美国一些最大的银行，讨论该模型带来的网络威胁。英国人工智能部长卡尼什卡·纳拉扬 (Kanishka Narayan) 向英国《金融时报》表示，“我们应该关注”Mythos 的能力。
多个司法管辖区的监管机构已敦促银行和金融机构审核其网络安全系统，并加快软件补丁的部署，以解决新人工智能模型暴露的漏洞。英国财政部和金融监管机构最近呼吁伦敦金融城的机构采取“积极主动的措施”，以减少他们所说的“更快、更具破坏性的前沿人工智能驱动攻击”带来的网络安全风险。
Mythos 的访问受到严格限制
Anthropic 的 Mythos 访问权限仅限于大约 40 个组织，其中大部分位于美国。获得访问权限的公司包括亚马逊、微软和摩根大通，这使他们能够识别和解决该模型识别的漏洞。根据白宫的要求，该公司同意不更广泛地分发该模型，这一限制让美国以外的公司和监管机构担心网络安全领域的不公平竞争环境。
然而，Anthropic 已同意向包括欧盟委员会在内的一些非美国机构提供高层简报。该公司收到了来自世界各地组织的大量请求，要求访问 Mythos 或有关其功能的详细信息。
本周，OpenAI 发布了自己的先进的、具有类似功能的以网络为中心的模型，扩大了监管机构面临的挑战的范围。
基于人工智能的网络攻击已经在加速
神话的紧迫性来自于更广泛且已经恶化的网络安全形势。根据安全组织 CrowdStrike 的数据，到 2025 年，基于人工智能的网络攻击预计将比上一年增加 89%。去年，攻击者首次访问系统到实施恶意行为之间的平均时间降至 29 分钟，比 2024 年增加了 65%。
安全与合规公司 Venta 首席执行官克里斯蒂娜·卡西奥波 (Christina Cacioppo) 表示：“由于人工智能，攻击的频率和复杂性已经在增加。” “大多数公司都没有准备好应对风险，因为他们仍在使用过时的方法来管理安全，而这些方法无法与人工智能攻击的速度相匹敌，”他说。
来自自主人工智能代理的威胁
除了神话之外，监管机构还密切关注一个相关且复杂的威胁：代表用户独立行动的自主人工智能代理。软件研究员西蒙·威利森（Simon Willison）警告说，部署代理时会出现他所说的“致命三重”能力，即访问私人数据、暴露不可信内容（例如开放互联网）以及外部通信的能力。
安全专业人士认为，将特工限制在这三个区域中的两个区域是最安全的方法。然而，人工智能专家认为，代理提供的大部分价值取决于同时提供这三者。
风险不再是理论上的。去年 9 月，Anthropic 发现了之前报道过的人工智能网络间谍活动，据信该活动是由中国国家资助的组织协调的。该行动操纵了 Anthropic 的编码产品 Cloud Code，试图渗透到大约 30 个全球目标，包括大型科技公司、金融机构、化学品制造商和政府机构。它在少数案例中取得了成功，并且在人为干预极少的情况下实施。
国际货币基金组织的警告
国际货币基金组织也加入到日益增长的担忧之中。本月早些时候，国际货币基金组织敦促政策制定者加强国际合作，以解决最新人工智能模型发现的网络安全漏洞，并警告说这项新技术是“先进的”。[s] 潜在宏观金融冲击的网络风险。
“网络风险不分国界，”国际货币基金组织官员在发表的博客文章中写道。 “新兴和发展中国家往往面临更严重的资源限制，可能会特别容易受到针对安全较弱地区的攻击。”
鉴于当前地缘政治紧张局势，一些官员怀疑即使有组织行动的范围缩小，能否实现全球协调应对。
Leave a Reply