NIST研究员以哥德尔不完备定理证明：不存在能普遍抵御对抗提示的有限护栏集合

美国国家标准与技术研究院（NIST）在2026年6月9日发布研究成果页面，页面于6月22日更新。研究者Apostol Vassilev的论文《Robust AI Security and Alignment: A Sisyphean Endeavor?》发表于《IEEE Security and Privacy》期刊，出版时间为2026年5月，DOI为10.1109/MSEC.2026.3678214。论文借用哥德尔1931年提出的不完备定理，证明不存在任何有限的护栏集合能够普遍抵御对抗性提示。用Vassilev本人的话说，总会有办法让AI系统违背自己的规则，区别只在于有没有被找到。既然完美防御不可得，论文给出的替代方案是三件事同时做：红队持续搜寻对抗性提示，护栏针对新威胁持续更新，运行层面则把重点放在限制影响范围和快速恢复。目标不是把系统做到攻不破，而是把攻击成本抬到攻击者划不来，从而形成一种可以维持的安全均衡。

这把AI安全从“能否做到不可攻破”改写成了“能否把攻击成本抬得足够高”。结论来自数学论证而非工程经验，对标准制定的约束力更强。

若这一论证被标准体系接受，AI系统的合规评估重心会从一次性的护栏验收，转向红队频率、更新节奏和事故恢复能力这类持续性指标。