人工智能安全评估迎来标准化协作新突破

作者：小小 · 2026-06-30 12:05:44

美国国家标准与技术研究院近日宣布，其人工智能安全研究所联合英国、加拿大、日本及新加坡的对口机构，正式发布一套面向先进AI模型的通用安全评估协议。该协议聚焦模型在生化风险、网络安全威胁及自主能力等前沿领域的潜在危害，首次实现了跨国评估标准与结果互认。此举旨在解决各国独立测试中暴露的方法碎片化问题。通过统一红队测试流程和基准数据集，协作网络可更高效地识别大语言模型在越狱攻击下的漏洞，并量化多模态系统在现实场景中的失控风险。协议强调动态迭代机制，要求参与方每季度同步新兴威胁情报。据悉，首批联合测评将针对即将发布的若干前沿模型展开，结果将以技术报告形式向全球开发者社区公开。