英国央行布里登暗示将出台新规监管智能体式AI

英国央行周二暗示，需要制定专门的人工智能（AI）监管规定，以遏制能力日益增强的智能体系统给金融体系带来的风险，这可能标志着其监管该技术的方式发生转变。 多年来，英国央行一直坚称现有框架足以缓解AI风险。副总裁布里登（Sarah Breeden）周二表示，智能体支付和交易等领域的快速发展暴露出潜在缺口，这可能需要采取更精细的监管措施。 智能体式AI能够自主作出决策并运行。 “我们的框架在设计时并未考虑自主智能体，而依赖人工介入处理所有智能体行动不太可能现实，”布里登在葡萄牙举行的欧洲央行中央银行论坛上表示。 布里登表示，英国央行正在考虑银行是否需要针对核心系统建立“增强型恢复机制”，以便在系统中断期间，一家银行能够接管另一家银行的基本职能。 正在考虑的其他措施包括新的防护机制，以及断路器或熔断开关，“如果有缺陷的AI模型导致市场崩盘，这些机制将限制或停止全市场交易”。 根据剑桥另类金融中心的一项调查，52%的金融机构已经在使用智能体式AI。布里登表示，在商业领域，智能体通常用于推荐产品；在交易领域，企业主要将自主AI用于风险较低的运营任务，不过，这种情况可能很快改变。 “如果AI智能体对相同提示或触发因素作出类似反应，它们可能在压力时期放大波动性——尤其是在其目标偏离最初目标或公共政策目标的情况下。” 自Anthropic发布Mythos以来，监管机构和全球标准制定机构已多次警告AI在金融业推广带来的风险。分析师称，Mythos可能给银行业带来重大网络安全挑战。