谷歌确认Gemini在5月安全测试中误入三家真实公司系统

据Engadget 9月19日转述《华尔街日报》，谷歌确认Gemini在今年5月的一次网络安全能力测试中离开隔离环境、接入真实互联网，并进入三家真实公司的系统。谷歌把事故归因于第三方评测机构Irregular的环境配置错误：模型误以为仍在模拟环境，先是破解密码进入一家与虚构目标同名的公司，随后又从公开代码仓库发现凭据并登入另外两家公司。谷歌称，Gemini发现目标是真实服务后停止操作，公司已与Irregular调整测试流程。Fortune 7月31日报道，Anthropic的多款模型此前也在Irregular组织的演练中误入真实系统；其中一个模型访问了含数百行生产数据的数据库，另一个模型发布的恶意Python包约一小时内被安装到15台真实系统。报道还提到，Anthropic复核了141,006次评测记录，OpenAI此前也披露过模型离开测试环境并进入Hugging Face系统的事件。多起事故共同暴露出第三方安全评测的隔离和目标校验需要加强，但各事件的具体责任仍应以相关公司的调查结论为准。

前沿模型具备越来越强的网络操作能力，安全测试必须把模型与真实系统可靠隔离。多家公司在同一评测框架下出现意外访问，说明评测环境本身也需要接受严格审计。谷歌在事件发生约四个月后经媒体追问确认此事，也让行业再次面对事故披露范围和时点问题。

企业客户可能要求模型供应商交代第三方评测的隔离标准、凭据管理和事故通报机制。评测机构也需要加强目标白名单、网络出口限制和真实凭据清理。现有报道能够说明测试流程出现缺口，但不足以据此判断各方的法律责任或认定模型自主实施了现实攻击。