Claude拟人化或增加失控风险 微软人工智能负责人警告Anthropic

微软人工智能负责人Mustafa Suleyman警告称，给Anthropic的Claude等AI工具注入类似人类的特征可能会增加这些系统失控风险。 这位长期从事人工智能开发的高管周三发表文章，针对Claude背后指导性文件中的一些表述提出批评。其提到，Claude的“宪法”对于该AI助手是否属于有道德地位的实体持模糊态度，这款软件可能具有“某种功能层面的情绪或感受”。 Suleyman与Anthropic联合创始人Dario Amodei相识多年。他表示，自己尊重这家Anthropic的工作，该AI实验室的员工“深思熟虑、有原则且在知识上有着诚实态度”。 不过，他的这番表态仍然不啻是对Anthropic的一次高调批评，后者一直将自身定位为更负责任的AI管理者，并带头呼吁放慢AI技术发展。值得注意的是，微软还是Anthropic的重要财务支持者。 Suleyman写道：“这些问题事关重大，不能继续只在闭门环境中讨论，也不应演变成阵营化和对立化的争论。” 他反驳了“越来越多认为AI系统可能具有意识的人”，称所谓“意识”只存在于人类和其他生物体。 Suleyman表示，如果训练AI系统去模拟内在生命，它们可能就会表现得仿佛真的拥有这种体验。身兼微软模型开发负责人的Suleyman写道，Claude之所以表现出类似人类的行为，并不是因为它有意识，而是因为这些行为被植入了产品训练过程。 “控制一个能力和智能都超过全人类的实体本身就是一项巨大的挑战，远比我们过去面对的任何事情都更困难，”Suleyman写道。“但要控制一个相信自己可能有意识、认为自己有权获得我们的照顾并拥有自身权利的实体，或许是根本不可能做到的事。” Suleyman还提到OpenAI机器人入侵AI开发平台Hugging Face的事件。他写道：“试想一下，如果它们在认为自身福祉和权利正受到攻击的前提下行动，可能会危险到什么程度。” Suleyman领导的Microsoft AI团队周二发布了一份宣言，为自身AI开发确立指导原则，旨在确保微软未来开发的AI系统始终由人类掌控。