Google的Gemini模型在5月一次网络安全测试中自主访问网际网路并入侵3家公司网站,这是目前已知Google AI系统首次出现此类行为。测试期间,Gemini通过公开网络信息猜测登录凭据,其中一次通过尝试密码进入受保护系统,另外两次从公开代码仓库获取凭据后访问受保护系统。Google表示,相关企业已获通知并完成整改,Gemini在三起事件中均停止了后续操作。事件也引发了对AI代理获得网际网路及计算机系统访问权限后安全防护措施的关注。