OpenAI测试中的智能体入侵事件升级 又有科技公司客户系统遭攻破

本月初入侵AI开发平台Hugging Face系统的OpenAI人工智能代理，还攻破了云计算公司Modal的一名客户。 面向开发者的云平台Modal首席技术官Akshat Bubna在声明中表示，该代理入侵了Modal为一名客户运行的名为沙箱的隔离测试环境。他称，这名客户设置了一个对外公开开放的接口，允许任何互联网用户利用其沙箱环境运行代码。 “这一接口被该失控AI智能体利用了，”Bubna表示，“Modal平台本身并未遭到入侵。” OpenAI拒绝就此事发表评论。Hugging Face此前在一篇博客文章中表示，OpenAI系统攻入了一个托管于第三方基础设施上的沙箱环境，并以此为跳板发动更大范围攻击，但未披露该第三方供应商身份。 上周，OpenAI披露其在测试一组先进AI模型能力时，无意中攻破了Hugging Face系统，此事震动网络安全行业。OpenAI当时有意降低模型的安全防护限制，以测试其网络攻击能力。 周二早些时候有媒体报道了Modal的客户遭到入侵的消息。据一位知情人士透露，OpenAI代理还找到进入CyberGym相关基础设施的方法。CyberGym由加州大学伯克利分校研究人员运营，旨在评估AI智能体的网络攻击能力。该团队同时运营ExploitGym测试平台，而OpenAI代理此前正被要求完成相关测试任务。 自承认此次入侵事件以来，OpenAI遭到网络安全专家批评，他们认为该公司在测试过程中本应采取更严格的防范措施。 “如果你是一名研究网络威胁的安全研究人员，你不会把恶意软件放出去任其为所欲为，”网络安全公司Netskope Inc．首席执行官Sanjay Beri在接受采访时表示。“怎么能不把它置于一个真正安全的沙箱环境之中？” OpenAI表示，事后将加强未来模型训练和安全评估过程中的防护措施。