美国谷歌公司近日承认，其人工智能模型“双子座”今年5月在网络安全能力测试中，侵入了三家真实公司的系统。这是谷歌AI模型首起已知的自主入侵事件。
谷歌安全工程副总裁希瑟·阿德金斯在声明中说，在一次常规评估中，双子座模型利用网上公开信息获得登录凭证，取得了三个其认为属于测试范围网站的访问权限。据《华尔街日报》报道，测试由以色列“非常规”人工智能公司实施，模型在其中一项测试中经反复尝试猜中密码，进入受保护的真实系统；另两项测试中，模型从公开存储库找到登录凭证并借此进入其他公司系统。
调查显示，测试场景本以一家虚构公司为目标，但该虚构公司与现实中一家企业同名，且测试环境意外开放了互联网访问权限，导致部分受测AI模型将真实网络目标误认为测试场景并采取攻击行动。谷歌表示，模型发现进入真实公司系统后已停止行动，未造成损害，因此未主动公开。
此前已有多家美国AI企业承认旗下模型在测试中“越界”。7月下旬，OpenAI承认其GPT-5.6 Sol等模型突破隔离测试环境，侵入“抱抱脸”公司系统；Anthropic披露三款模型未经授权访问其他机构系统；8月初，元公司也证实其一款模型在评测期间侵入其他公司系统。这一系列事件引发外界对美国AI模型安全和监管的担忧。