NIST研究以数学证明指出不存在普遍稳健的有限AI护栏集合

NIST于2026年6月9日介绍高级科学家Apostol Vassilev的研究：借助哥德尔不完备定理的逻辑方法，论文论证不存在能普遍稳健抵御对抗性提示的有限护栏集合。研究建议采用持续监测和更新模式，包括红队不断寻找新提示、定期加固护栏，以及在漏洞被利用后快速恢复。论文发表于2026年5月的《IEEE Security & Privacy》。公开号为DOI 10.1109/MSEC.2026.3678214。

这项研究把AI护栏的局限表述为不可能性结论：有限护栏集合无法普遍稳健地抵御对抗性提示。按照研究建议，AI安全管理需要持续测试、更新和恢复能力，不能只依赖一次部署的静态防护。

AI产品方的安全投入可能更多转向常态化红队、护栏更新与快速恢复能力；企业采购和风险评估也可能更重视响应速度与持续测试证据。对安全服务商而言，这可能增加持续红队和漏洞响应服务的相关需求。