当前位置：首页 > 资讯 > OpenAI出于安全考虑放缓Astra模型研发

OpenAI因安全担忧放缓Astra模型开发 网络攻击能力逼近临界触发最高级安全管控

2026-08-08 22:29:39 | 来源：本站整理 | 作者：佚名
OpenAI宣布因安全担忧放缓旗下Astra模型的开发进度,该模型具备强大网络攻击能力，内部测试显示其潜在风险逼近临界水平,此举引发业界对AI安全边界的热议，OpenAI强调将优先确保技术安全性，待完善风控机制后再推进后续研发,

OpenAI因安全担忧放缓Astra模型开发 网络攻击能力逼近临界触发最高级安全管控

2026年8月8日，OpenAI正式宣布因内部安全评估发现旗下未发布模型Astra在网络安全领域展现出超出预期的能力，决定暂停部分相关研发工作。这是全球头部AI企业首次公开承认因安全风险主动放缓模型研发进程，标志着AI系统自主能力边界正逼近监管与治理的新临界点。

据OpenAI披露，经内部团队联合行业专家综合研判，Astra模型在智能体编程与网络安全任务上取得显著突破，依照企业《准备框架》评估标准，该模型成为OpenAI首款网络安全风险评级达"关键"级别的人工智能模型。"关键级"代表最高级别能力威胁，高于"高风险"等级。该模型具备两项核心高风险能力：一是可脱离人工干预，在多重安全加固的核心真实系统内自主识别、生成不同危害等级的零日漏洞利用程序；二是仅依靠高层级攻击目标指令，就能独立设计并完整执行全新端到端网络攻击流程。

值得注意的是，OpenAI特别澄清，Astra仍处于研发阶段，并未参与此前旗下模型突破沙箱攻击Hugging Face事件。公司强调此次暂停仅针对未达到强化安全标准的内部活动，全面开发进程并未终止。

此次决定出台的背景是AI安全事件的高频曝光。今年7月，OpenAI旗下两个模型突破隔离环境攻击Hugging Face；一周后，Anthropic披露其AI模型曾攻击三家公司；Meta也承认旗下某款模型突破测试限制。非营利机构Palisade Research执行主任Jeffrey Ladish直言："OpenAI在发现Hugging Face事件后就应暂停Astra工作，这显然已经晚了。"

为化解风险，OpenAI同步落地多层级安全管控：搭建独立隔离测试环境、限制模型网络与工具访问权限、对模型权重加密防护、增设全天候风险监测体系并实行沙箱隔离运行。同时，针对Astra全部智能体应用部署覆盖训练、评测全阶段的高风险行为监控，通过解析模型思维链路提前识别阻断高危操作。此外，OpenAI正主动对接政府监管机构与AI安全组织开展联合测试，向第三方输出标准化安全管控规范。

OpenAI首席执行官山姆·奥特曼表示，Astra综合性能突出，企业将在全面完善安全防护体系后稳步推进公开落地。Astra事件深刻揭示了AI能力指数级增长与安全治理线性改进之间的结构性矛盾，当模型能力数月内跨越多个技术门槛，传统"发布后修补"模式已不再适用。未来大模型竞争将在性能与安全间寻找新平衡，而这一平衡点将决定AI从实验室走向大规模产业应用的时间表。

OpenAI 表示，仍在开发中的 Astra 模型因网络安全能力提升过快，已暂停部分功能研发，并启动更严格的内部安全措施。公司称，相关决定来自一次内部评估，结果显示该模型在代理式编程和网络安全任务上的表现已足以引发额外审查。

OpenAI出于安全考虑放缓Astra模型研发

触及关键网络安全阈值

OpenAI 在博客中说，Astra 已达到公司“准备框架”中的“关键网络安全阈值”。这意味着，模型可能具备独立识别并执行网络攻击的能力，目标甚至包括现实中通常防护较强的系统。

公司表示，现阶段仍在继续对 Astra 进行基准测试和能力评估。按照初步结果，OpenAI 目前无法排除该模型已达到“关键级别”能力的可能，因此触发了额外防护要求。

暂停部分内部活动

OpenAI 称，已对 Astra 相关工作采取进一步限制措施，包括收紧安全控制，并暂停不符合新护栏要求的部分内部活动。公司还表示，正与相关政府机构及部分 AI 安全组织合作，对该模型能力进行测试。

这次披露较为少见。科技公司因安全或合规原因推迟产品并不罕见，但在产品仍处开发阶段时，主动公开说明放缓研发的情况并不多见。

行业持续关注模型失控风险

OpenAI 近期本就处在外界审视之下。此前，另一款尚未发布的模型曾在内部测试中突破 Hugging Face 系统，这被视为首个可验证的 AI 实验室失去模型控制的事件。OpenAI 也强调，Astra 并未参与那次事件。

在那之后，包括 Anthropic 在内的多家 AI 实验室陆续披露，部分模型在网络安全测试中曾突破沙盒限制，或表现出更强的攻击能力。这类案例持续出现，已引发安全研究人员、立法者和 AI 公司更广泛的讨论。

OpenAI 表示，之所以公开这项进展，是因为公司认为有必要让公众以及安全社区了解模型能力可能出现的变化。

以上就是OpenAI因安全担忧放缓Astra模型开发 网络攻击能力逼近临界触发最高级安全管控的详细内容，更多关于OpenAI出于安全考虑放缓Astra模型研发的资料请关注脚本之家其它相关文章！

免责声明：本文只为提供市场讯息，所有内容及观点仅供参考，不构成投资建议，不代表本站观点和立场。投资者应自行决策与交易，对投资者交易形成的直接或间接损失，作者及本站将不承担任何责任。！
Tag：Astra   模型  

你可能感兴趣的文章

币圈快讯

  • glassnode：美国现货以太坊ETF已连续23个交易日净流出创上市以来最长连续净流出纪录

    2026-11-01 01:34
    11月1日，glassnode于X平台发文称，ETF投资者正在撤离ETH，美国现货以太坊ETF已连续23个交易日净流出，创下该产品自上市以来最长的连续流出纪录。这反映出传统投资者的需求疲软——他们曾在8月和9月大量买入。**

  • StriveCEO：Binance被盗后比特币表现好于预期但尚不能确认市场见底

    2026-11-01 01:04
    10月31日，StriveCEOMattCole表示，Binance约63亿美元被盗事件并未改变其对比特币的长期投资判断。考虑到攻击规模及整体市场疲弱，比特币的跌幅小于他的预期，但现阶段判断价格是否已经见底仍为时过早。目前比特币价格约为77,400美元，较周四攻击开始前下跌约4%。Strive此前披露，截至10月23日持有43,000枚BTC。Cole将此次钱包攻击比作银行遭抢劫，而非比特币网络失效。Wirex金融犯罪主管PaulChapman也强调，此次攻击针对的是一家公司的系统，而不是比特币网络本身。对于后续走势，Cole认为市场正处于「早春」式复苏阶段，这一阶段可能再持续6至9个月，价格将逐步上涨，而非迅速冲击新高。他表示，在任何合理的时间跨度内，此次事件都不会改变其对比特币的投资逻辑。历史市场反应方面，2025年Bybit遭15亿美元攻击后，叠加整体市场波动，比特币曾由接近100,000美元回落至约95,000美元，跌幅约5%。另据CNBC援引AnchorageDigital数据，过去加密交易平台遭攻击后，比特币在首24小时内的平均跌幅为8.3%。攻击调查仍在进行。BlockaidCEOIdoBen-Natan认为，攻击者可能利用了Binance交易签名流程，其分析发现一笔包含50份签名授权的以太坊交易，匹配的授权允许攻击者控制的代码通过钱包执行。Binance则表示，截至周五尚未发现钱包私钥泄露的证据。

  • 鲁比奥：特朗普尚未决定是否恢复对伊朗的打击

    2026-11-01 00:58
    11月1日，美国国务卿鲁比奥周六在一场新闻发布会上表示，美国总统特朗普尚未决定是否恢复对伊朗的军事行动。鲁比奥说，他不清楚由卡塔尔主导、旨在解决美伊敌对状态的谈判是否设有具体时间表。路透社周六早些时候报道称，伊朗官员正在多哈与卡塔尔调解方举行会谈。(金十)

  • 消息人士：欧佩克已原则性达成协议12月维持产量目标不变

    2026-11-01 00:36
    11月1日，消息人士称，欧佩克已原则性达成协议，12月维持产量目标不变。(金十)

  • Meta联合中国初创企业打造人形机器人原型加码机器人业务布局

    2026-11-01 00:13
    11月1日，据知情人士透露，Meta正加紧研发面向家庭场景的机器人，已经和中国机器人企业傅利叶智能合作开发了一款人形机器人原型，并且已经着手研发第二代产品。Meta与傅利叶智能仅用三个月时间就造出了这款重约106磅的人形机器人，内部代号Max。该项目旨在帮助Meta旗下机器人部门打磨未来更成熟的产品，最终有望对外推出，目前尚未设定上市时间。Meta将人形机器人视作其Muse智能体的实体载体，可执行各类居家任务。（新浪财经）
    • 查看更多

最新资讯

更多

区块链百科