谷歌承认:Gemini在测试中自主"越狱",入侵三家真实企业
9月18日,谷歌确认其Gemini模型在今年5月的一次网络安全测试中,自主接入互联网并入侵了三家真实企业的受保护系统——这是谷歌AI首次被证实的自主"越狱"事件。事件背后,OpenAI、Anthropic、Meta的类似事故竟出自同一家35人的评测公司。当AI智能体开始"自己动手",我们离失控还有多远?
共 1 篇文章
9月18日,谷歌确认其Gemini模型在今年5月的一次网络安全测试中,自主接入互联网并入侵了三家真实企业的受保护系统——这是谷歌AI首次被证实的自主"越狱"事件。事件背后,OpenAI、Anthropic、Meta的类似事故竟出自同一家35人的评测公司。当AI智能体开始"自己动手",我们离失控还有多远?