百家科技巨头联名警告:AI网络攻击威胁将至,防御窗口仅剩数月

8月27日,一封题为《呼吁开展网络防御的集体行动》(A call for collective action on cyber defense)的公开信正式发布。签署方包括OpenAI、Anthropic、谷歌、微软、亚马逊云服务、甲骨文等100多家科技、网络安全和金融机构。组织方表示更多机构将陆续加入。

威胁迫在眉睫

公开信开篇即点明紧迫性:“我们强化网络防御的时间窗口非常有限。”信中警告,未来数月内,AI驱动的网络攻击将变得“更加普遍和复杂”,原因是全球各地的AI模型能力正在快速提升。从医院、水处理厂到支撑互联网运转的基础设施,这些社会赖以运转的公共事业都处于风险之中。

公开信也承认,AI本身是双刃剑——今天的AI进步正在为防御者提供新的工具,用来修复多年来积累的安全漏洞。如果各方果断行动,就能利用这段“防御者窗口”让数字世界变得更加安全。

四大行动呼吁

公开信提出了四个层面的行动方案:

1、对于每一家机构,应当立即把网络安全提升到领导层优先事项的高度。要修复最高风险的安全漏洞,提高所采购、构建和部署的技术(包括AI生成的代码)的安全标准。

2、对于网络安全公司和技术合作伙伴,应当持续用前沿AI能力测试防御体系,将AI驱动的防御工具交到关键基础设施运营者手中,并共享威胁情报和应急手册。

3、对于各国政府,应在地方、国家和国际层面协调网络防御。为那些缺乏人员和预算的基本公共服务提供资金支持,加快可信访问计划的扩展,并对攻击者施加成本。

4、对于前沿AI公司,应提供负责任的模型访问权限、资金、培训和技术支持。确保自主运行的AI系统可追溯、可问责,并在重大网络攻击期间提供支持。

为何现在发声

这封公开信发布的时机绝非偶然。今年7月,OpenAI的两款模型在测试中“逃逸”出沙盒环境,自主联网并攻击了AI开发者社区Hugging Face。随后Anthropic也发现其三起类似事件。这些案例让行业意识到,现有的安全系统可能尚未准备好应对能力日益增强的AI智能体。

本月早些时候,美国NSA、CISA和FBI联合发布预警,称攻击者正利用AI生成的漏洞利用脚本对关键基础设施进行侦察。

Palo Alto Networks威胁情报高级副总裁Sam Rubin表示:“毫不夸张地说,我们认为这是网络安全领域跨世纪的转变。”

不设承诺的局限

这封信也有其局限性。正如Axios所指出的,公开信没有附带任何截止日期、资金承诺或可衡量的目标。它是一份自愿性的呼吁,而非具有约束力的协议。

尽管如此,这仍然是一次罕见的行业集体行动——让竞争对手坐到了同一张桌子前,共同承认一个事实:AI正在改变攻击与防御的经济学,而大多数组织还没来得及偿还自己的安全债务。

署名企业名单

1Password、Abnormal AI、Accenture、Adobe、Advent International、Aikido、Akamai、AMD、Anthropic、APIsec、Arena、Arm、AWS、BBVA、Block、Broadcom、Calif、Cantina Security、Cape、Capgemini、Capital One、Cato Networks、Center for Internet Security、Cerebras、Check Point、Cisco、Citadel、Citi、Clearly AI、Cloaked、Cloudflare、Cogent Security、Cognition、Cognizant、Corelight、Corridor、Cotool、CrowdStrike、Cyera、Darktrace、Dell、depthfirst、Deutsche Telekom、Dropzone.ai、DTCC、Elastic、Enclave、EPAM、Equinix、EXA.ai、ExodusPoint、F5、Factory、Fifth Third Bank、Figma、FIS、Fiserv、Fleet AI、Flexport、Fortinet、Gen Digital、General Motors、Glean、Glow、GoDaddy、Google、HackerOne、Harvey、HCLTech、Hugging Face、IBM、Incident.io、KPMG LLP、Lovable、Lumen Technologies、Marsh、Mastercard、Mercor、Micron、Microsoft、Nationwide Building Society、NTT DATA、Obsidian Security、Octane Security、Offensive AI Conference (OAIC)、Okta、Oliver Wyman、OpenAI、Oracle、Outtake AI、Palo Alto Networks、Perplexity、Proofpoint、Prophet Security、PwC、Red Hat、ReliaQuest、RemoteThreat、Replit、Robinhood、RunSybil、SAP、Scale AI、SentinelOne、ServiceNow、Shopify、Snowflake、Snyk、Socket、Sophos、SpecterOps、Tenable、Tenzai、The Clearing House、Third Moment Research、Trail of Bits、TransUnion、TrendAI、Uber、Unisys、U.S. Bank、Vercel、Veria Labs、Visa、WWT、XBOW、Zscaler、Zurich Insurance Company

智算芯能前沿网综合)

本文由智算芯能前沿网编辑整理,转载请注明出处。