NIST软件与系统部门负责人撰文：医疗场景AI需要正确性、数据完整性与对抗攻击检测三类标准

美国国家标准与技术研究院信息技术实验室软件与系统部门主任Ram D. Sriram在NIST官方博客Taking Measure发表文章，讨论人工智能进入诊室后需要哪些标准来支撑可信度。文章指出，AI转录服务已经在部分诊所投入使用，用于记录医患对话并自动填写电子病历，从而减轻医生长时间填写病历的行政负担。Sriram认为，要让医疗机构放心使用，标准至少需覆盖三个方向：模型本身的正确性与可靠性、训练数据集的完整性与防止恶意数据注入所形成的“木马”，以及对抗性攻击的检测能力，他以研究者只需在停车标志上贴一张贴纸就能让自动驾驶系统识别错误作为对抗攻击的直观例证。文章还举出NIST研究员Peter Bajcsy及其合作者开发的干细胞质量分析AI技术，相关研究工作促成了一项获美国食品药品监督管理局批准的年龄相关性黄斑变性治疗。作者同时推荐医疗机构使用NIST免费发布的AI风险管理框架来管理风险，并主张把AI理解为辅助医生的“增强智能”而非取代医生。

医疗是AI商业化中监管门槛最高的场景之一。由标准机构公开界定可信度所需的技术维度，为医疗AI产品的评测与采购提供了具体抓手，也为后续标准立项指明方向。

医疗AI厂商和医院信息化采购方可据此检视模型验证、数据溯源和对抗攻击测试环节；AI风险管理框架在医疗领域的落地需求可能上升。