全球顶尖实验室联合发布AI安全新框架，承诺高风险系统需经外部审计

作者：小小 · 2026-07-12 21:21:36

包括OpenAI、Google DeepMind和Anthropic在内的十余家前沿AI机构近日共同签署了一项具有里程碑意义的国际安全协议。该框架首次明确要求，任何可能造成灾难性后果的高级AI模型在部署前，必须接受独立第三方的严格压力测试与风险评估。此举旨在防止模型被恶意利用或出现失控风险，标志着行业自律从模糊承诺转向具体的技术标准。协议特别强调了对生物安全、网络攻击及自主复制等极端风险的防御机制。尽管该协议不具备法律强制力，但其发起方表示，这为各国政府正在推进的AI监管立法提供了可操作的技术蓝图。批评者则指出，真正的安全取决于全员执行，而非仅仅签署文件。