英国国王召集峰会聚焦AI风险 黄仁勋称不够安全的产品应推迟推出

人工智能（AI）行业的重量级人物齐聚苏格兰，英国国王在峰会上敦促他们确保不会失去对这项技术的控制。 查理三世召集科技业领袖及其他具有影响力的人士举行峰会，聚焦日益加剧的AI风险。这个话题本周已成为全球关注焦点。与会高管没有公开承诺作出任何改变，但一些人对安全方面的担忧做出了直接回应。 “我们这些开发AI的人必须严格测试系统，”英伟达首席执行官黄仁勋周四在这场王室活动上简短发言称，“如果产品还不够安全，我们就应该暂缓发布。” 与黄仁勋一同出席苏格兰峰会的还有OpenAI首席财务官Sarah Friar和Google DeepMind联合创始人Demis Hassabis。Anthropic PBC公共事务主管Tino Cuéllar也参加了在邓弗里斯庄园举行的AI论坛。其他与会者还包括科技公司、非营利机构和教育机构的负责人，其中包括清华大学。 “我们这个世界上那些珍视人性及其至关重要的道德价值的人，正焦急地希望得到你们的保证 —— 保证我们不会失去对自身命运的掌控，”查理三世在开幕致辞中表示。白金汉宫在声明中表示，此次活动旨在讨论如何利用这项技术来造福社会和自然界。 英国国王查理三世（左）、Google DeepMind的（中）和英伟达首席执行官黄仁勋，9月17日在苏格兰卡姆诺克的邓弗里斯庄园。 此次峰会恰逢其时。Anthropic首席执行官Dario Amodei上周末发表文章，呼吁放慢前沿模型的开发，由此引发全球对AI风险不断上升的讨论。 “最近围绕这项技术的灾难性风险，可以说出现了很多激烈争论，”Hassabis在峰会上表示。这位英国科学家最近卸下了谷歌AI业务管理职务。他表示，对于强大的AI，自己主要有两方面担忧：一是自主系统失控，二是“恶意行为者”利用AI作恶。不过，他相信业界能够解决这些问题。“我对人类的聪明才智充满信心，”他表示。 查理三世在峰会上提出两个关键问题：“第一，我们如何在确保安全的前提下，充分利用AI带来的益处？第二，我们如何建立国际合作与共识来实现这一目标，确保没有任何国家掉队，并保护人类的未来？ 根据活动现场发放的日程安排，峰会期间，查理三世还与黄仁勋、Hassabis、Cuéllar、Friar及另外五名嘉宾举行了闭门会谈。