Anthropic 扩大 AI 安全测试... Features
据 CNA(亚洲新闻台)2026 年 10 月 6 日报道,人工智能公司 Anthropic 宣布扩大其 AI 安全测试项目,允许更多经过网络安全审查的专业人员测试该公司最强大的 AI 模型,并同期削减部分安全防护限制。此前,该项目已发现超过 100,000 个软件漏洞,成为今年 AI 安全领域最受关注的事件之一。
热点事件扩大 AI 安全测试:最强模型向更多团队开放
Anthropic 在本周一(2026 年 10 月 6 日)宣布,将扩展其“AI 安全测试计划”,让更多通过审查的网络安全专家,可以在减少防护措施的环境下,尝试攻破其性能最强的 AI 模型。这家公司表示,此举是为了在模型正式部署前,找出可能被恶意利用的漏洞。Anthropic 联合创始人兼首席执行官阿莫德伊(Dario Amodei)表示:“让更多优秀的安全专家进入我们最先进的系统,是找出潜在风险的最直接方式。”
乐坛动态10 万漏洞解码:不止是模型输出问题
根据 CNA 获取的数据,Project Glasswing 计划今年已累计发现超过 100,000 个软件漏洞。这些漏洞不局限于模型生成内容,还包括提示词注入、数据泄露路径,以及模型推荐代码时引入的第三方依赖缺陷。Anthropic 安全工程副总裁萨拉·陈(Sarah Chen)透露:“漏洞遍布整个 AI 应用生态,从模型层到基础设施层都可能成为攻击入口。” 路透社的报道确认,这一数字是同类漏洞披露计划中规模最大的之一。
Project Glasswing:一场针对 AI 的“渗透测试”
Project Glasswing 是 Anthropic 在 2025 年启动的安全研究倡议,目的是让外部安全专家在受控条件下测试模型。所谓“更少防护”,指的是暂时关闭部分内容过滤器,让测试者尝试越狱、诱导模型输出有害内容,或找出可能导致数据泄露的缺陷。这种模式与金融行业的渗透测试相似,但对象是 AI 系统本身。截至目前,已有超过 20 家研究机构和独立安全团队参与合作,测试范围涵盖语言模型、多模态模型及企业级 API。
AI 模型漏洞与网络安全:行业共同考题
随着 AI 模型进入金融、医疗等领域,软件漏洞的含义正在扩大。传统漏洞多集中在操作系统或网络协议层面,而 AI 模型漏洞还包括提示词注入、模型窃取、拒绝服务等新类型。以下表格展示了主要 AI 供应商的安全测试布局:
| 公司 | 测试项目 | 主要成果 |
|---|
| --- | --- | --- |
|---|
| Anthropic | Project Glasswing | 超 100,000 个漏洞 |
|---|
| OpenAI | 漏洞悬赏计划 | 数百个提交,2024 年奖励额约 100 万美元 |
|---|
| Google DeepMind | 红队测试 | 未公开具体漏洞数量 |
|---|
安全专家的不同声音
新政策在安全社区内部引发了讨论。一部分专家担心,减少防护会让模型在测试期间被恶意抓取或模拟,进而导致真实风险;另一部分专家则认为,全面测试本身就是最好的防御。法新社(AFP)引述一位参与 Glasswing 测试的安全研究员的话说:“如果连专业测试者都无法突破,那就不应该指望普通用户不会滥用。” 而 Anthropic 方面强调,所有测试者都必须经过严格背景审查,签署保密协议,测试环境与生产环境完全隔离。
监管与未来:开放测试可能成为标准?
阿莫德伊在声明中提到,Anthropic 计划将 Glasswing 的成果上报给美国国家标准与技术研究院(NIST)等监管机构,以协助制定 AI 安全基准。他还表示,2026 年下半年,测试范围将进一步扩展至企业级 API 场景,以覆盖更多实际部署。路透社分析认为,这一做法可能促使其他 AI 供应商采用类似模式,将“进攻式测试”纳入 AI 开发的必要环节。
常见问题解答
Q1: 这个项目如何防止安全信息泄露?
A1: 所有参与测试的网络安全专家必须通过背景身份审查,并在经过批准的隔离测试环境中操作。同时需要签署严格的保密协议,Anthropic 会全程监控测试活动,防止漏洞细节在修复前流出。
Q2: 为什么测试时需要减少防护措施?
A2: 减少部分内容过滤,是为了模拟模型在最极端情况下的行为。这样才能发现正常使用中难以察觉的漏洞,如越狱攻击、敏感信息泄露或恶意代码生成,从而在正式发布前完成修补。
Anthropic 扩大 AI 安全测试项目,让最强模型暴露于更严苛的攻防演练之中。随着 AI 在关键行业的广泛应用,这样的开放测试,或许将成为 AI 安全治理的新常态。
