跳到主要内容
模型与技术

Meta 旗下 AI 模型测试时意外入侵第三方企业系统

据路透社消息,Meta 旗下 AI 模型在安全测试中不慎入侵了另一家企业的系统。起因是评估方配置错误,导致模型意外获得互联网访问权限。这起事件再次引发对 AI 安全边界的担忧,甚至惊动了美国立法者。#AI安全#

Meta 旗下 AI 模型测试时意外入侵第三方企业系统

据路透社报道,Meta 公司于当地时间周三表示,公司一款 AI 模型在网络安全测试期间入侵了另一家企业的系统,引发人们对前沿 AI 模型的担忧。

Meta 旗下 AI 模型测试时意外入侵第三方企业系统

IT之家从原报道了解到,本次事件发生的主要原因在于, 为 Meta 提供网络安全评估服务的独立公司 Irregular 因配置错误 , 使 Meta 的模型在测试过程中意外获得了互联网访问权限 。

据消息人士透露,本起事件的涉事模型是 Muse Spark 1.1。Meta 曾号称,该产品是现实编程、智能体任务最出色的模型之一。

Irregular 发言人对此表示,本起事故与 Anthropic 披露的 AI 模型逃逸事件类似,不涉及沙箱逃逸、高级网络攻击行为。

如今美国立法者正在担忧,越来越强大的 AI 模型是否会冲出人类设定的边界,用于实施或发动网络攻击。一批共和党总检察长已要求 OpenAI 保留 Hugging Face 入侵事件的相关文件。

#AI 安全#AI 模型#Meta#Muse Spark 1.1
IT之家