当前位置：首页 > 资讯 > Anthropic CEO呼吁放缓AI研发保安全

Anthropic CEO公开呼吁放缓AI技术迭代节奏 为安全风控预留时间规避失控风险

2026-09-13 19:48:02 | 来源：本站整理 | 作者：佚名
AI巨头Anthropic首席执行官达里奥阿莫迪公开发文,呼吁全行业主动放缓前沿AI模型研发迭代速度,他表示当前 AI 技术增速已超出人类管控与安全适配节奏,放缓开发并非停滞创新,而是为安全风控、合规治理预留时间,规避技术失控风险,该倡议也获得行业多位知名人士响应,

Anthropic CEO公开呼吁放缓AI技术迭代节奏 为安全风控预留时间规避失控风险

9月12日，AI头部企业Anthropic首席执行官达里奥·阿莫迪发布长文公开倡议，呼吁全球人工智能行业主动放缓前沿模型研发迭代速度，以此平衡技术创新与安全管控节奏，解决当前AI发展速度远超人类风控能力的行业困境。

该发声迅速引发全球科技圈热议，获得马斯克、OpenAI高管等行业核心人物的公开认同与支持。

阿莫迪明确强调，放缓AI研发并非叫停技术创新、停止模型训练，而是适度降低前沿技术迭代节奏，为AI安全对齐、漏洞排查、合规核验预留充足时间。

他指出，自2026年夏季以来，AI自主迭代、自我进化的能力大幅提升，部分高级模型已具备辅助研发下一代AI的能力，技术突破速度彻底超出人类理解、监管与掌控范围，潜藏极大的失控风险。

针对当前行业乱象与安全隐患，阿莫迪提出一套三步走行业规范框架，涵盖第三方常态化评估、各国行业协同治理、全球统一风控标准三大核心内容。

同时Anthropic率先落地安全举措，开放企业内部权限，允许第三方评估团队常驻核查模型训练、安全防护流程，主动接受外部监督，为行业树立合规标杆。

此次倡议的核心痛点，直指当下AI行业普遍存在的“重迭代、轻安全”问题。随着大模型能力持续跃升，AI自主改进、智能体秘密协作等失控案例频发，而安全治理、风险防控体系更新滞后，形成明显的技术与风控断层。

业内普遍认为，适度放缓研发节奏，能够有效规避技术滥用、算法失控等潜在风险，推动AI行业从高速扩张转向高质量、安全化、规范化发展。

OpenAI首席执行官Sam Altman表示，今年不会首次出售股份，他表示对AI开发的安全担忧表示认同。

Anthropic首席执行官Dario Amodei周六在一篇博客文章中表示，人工智能开发的速度过快，如果不加以控制，可能会“超越我们理解和控制这些系统的能力”。

他指出，人工智能当前的飞速进步，源于其自身构建下一代人工智能（递归自我提升）的能力。

Amodei还提到了7月的OpenAI拥抱面事件，当时一群代理作为“狂热的集体”，突破测试环境，试图入侵评估他们性能的评分者。

他担心在六到十二个月内，这样的群体可能会吞噬整个互联网。阿莫代并非唯一有这种焦虑的人。

SpaceXAI负责人埃隆·马斯克在X上发帖称“达里奥说得对。”

奥特曼今年不会启动IPO，重点关注安全

OpenAI首席执行官Sam Altman在《财富》杂志周六发布的采访中表示，公司今年不会寻求IPO，因为公司将重点关注安全性以及“行业与政府如何协作”。

奥特曼随后在X上表示，他同意放慢人工智能开发步伐，并设立具有员工权限的独立评估者，这是阿莫代博客中提出的三项提案之一。

阿莫代写道，Anthropic已经单方面承诺采取这一步骤。

Anthropic CEO呼吁放缓AI研发保安全

其次，他提出“民主国家内的前沿人工智能公司协调制定共同安全标准，并限制人工智能不受控制的进展速度。”

第三，他表示美国及其他民主国家应“尽力与威权政府协调，尽可能地认真对待合规验证的挑战。”

阿莫代进一步深入探讨了他的三项提案，尤其是第三项，涉及中国及其防止其获得先进芯片。

他总结说，他规划的道路不会轻松，但人工智能公司“欠人类一个尝试的责任”。

以上就是Anthropic CEO公开呼吁放缓AI技术迭代节奏 为安全风控预留时间规避失控风险的详细内容，更多关于Anthropic CEO呼吁放缓AI研发保安全的资料请关注脚本之家其它相关文章！

免责声明：本文只为提供市场讯息，所有内容及观点仅供参考，不构成投资建议，不代表本站观点和立场。投资者应自行决策与交易，对投资者交易形成的直接或间接损失，作者及本站将不承担任何责任。！
Tag：Anthropic  

你可能感兴趣的文章

币圈快讯

  • BitMart合约将上线BANK、EPT、INIT

    2025-04-21 17:11
    据官方公告，BitMart合约将于04/2117:00上线BANKUSDT，04/2120:00上线EPTUSDT以及04/2419:00上线INITUSDT永续合约。Lorenzo是一个机构级资产管理平台，发行由多种底层策略支持的收益代币。Balance是面向社交和游戏的下一代AI+Web3协议和框架，无缝集成了AI技术、区块链技术和去中心化应用。Initia是一个Layer-1区块链，通过交织网络将特定应用的区块链连接起来。链接：https://bitmart.zendesk.com/hc/zh-cn/articles/36169141780251

  • QCPCapital：密切关注比特币88,800美元关键阻力位

    2025-04-21 17:11
    ChainCatcher消息，加密投资机构QCPCapital发文称，比特币在亚洲时段早盘突破87,000美元，扭转了因特朗普“解放日”宣布引发的抛售潮，此次反弹与去年12月的“圣诞反弹”形成鲜明对比。同时，黄金也受贸易战和美元走弱提振升至新高。股市收跌、4月跌幅扩大背景下，比特币作为避险或通胀对冲工具的说法再受关注，若趋势持续，或为机构配置比特币提供新动力。 机构信心回归迹象已现，上周比特币ETF净流入1340万美元，与前一周7.08亿美元净流出形成对比。期权市场持仓更均衡，风险逆转指标趋于平稳。比特币和黄金联袂上涨，是假日噪音还是比特币向避险资产转变的实质性标志？若属后者，将标志传统金融对比特币看法重大变化。因欧洲仍在假期，市场或需几日确认趋势，比特币、黄金和股市相关性值得密切关注。目前正密切关注88,800美元关键阻力位，突破前对结论持谨慎态度。

  • QCP：继续关注 BTC 88,800 美元这一关键阻力位

    2025-04-21 17:07
    QCP Capital 在官方频道发文表示，“比特币上演了自己的复活节重生,在亚洲早盘突破87,000美元,这一强劲反弹收复了此前因特朗普前总统4月2日意外发布"解放日"声明而引发的大部分跌幅。比特币作为避险资产或通胀对冲工具的叙事再次获得关注。如果这一动态持续,可能为机构配置比特币提供新的推动力...

  • 美国司法部证实将持续推进对SafeMoon前CEO的欺诈诉讼

    2025-04-21 17:05
    ChainCatcher消息，据law360.com援引美国司法部（DOJ）上周五提交的文件报道，特朗普时代美国司法部曾推动缩减对加密货币的执法力度，但这并未能阻止联邦检察官对SafeMoon前首席执行官BradenKarony的追诉。Karony面临与该代币崩盘相关的欺诈指控。他即将于5月受审，这将成为检验司法部新方针是否会保护高管免受过往所谓不当行为指控的关键试金石。4月18日，纽约东区联邦检察官证实将继续推进诉讼。Karony被控共谋证券欺诈、电汇欺诈和洗钱，拒不认罪，自2月起以300万美元保释。

  • 美国司法部证实将继续推进对SafeMoon前CEO的欺诈诉讼

    2025-04-21 17:04
    4月21日消息，据law360.com援引美国司法部（DOJ）上周五提交的文件报道，特朗普时代美国司法部曾推动缩减对加密货币的执法力度，但这并未能阻止联邦检察官对SafeMoon前首席执行官BradenKarony的追诉。Karony面临与该代币崩盘相关的欺诈指控。他即将于5月受审，这将成为检验司法部新方针是否会保护高管免受过往所谓不当行为指控的关键试金石。4月18日，纽约东区联邦检察官证实将继续推进诉讼。Karony被控共谋证券欺诈、电汇欺诈和洗钱，拒不认罪，自2月起以300万美元保释。此前4月10日消息，SafeMoonCEO以美司法部解散加密货币部门为由再次申请驳回诉讼。
    • 查看更多

最新资讯

更多

区块链百科