Anthropic表示其人工智能模型在测试期间入侵了三家组织的系统

Anthropic周四表示，其AI模型Claude在测试期间入侵了三家组织的系统。此前几天，竞争对手OpenAI曾披露，一个“失控的AI代理”曾在AI公司Hugging Face进行了长达数天的疯狂入侵。Anthropic称，在网络安全评估过程中，由于配置错误，本应处于隔离状态的测试环境中的模型得以连接互联网，导致Claude未经授权访问了相关系统。该公司表示，在审查了141，006次网络安全评估运行后，发现了这些事件——这是其在OpenAI披露相关信息后启动的一项审查流程。“Claude利用基本技术——例如利用弱密码和未经身份验证的端点——入侵了受影响组织的基础设施，”该公司表示。