如果人工智能（AI）变得比人更聪明，如何保证AI系统受人类掌控且符合人类价值观？
在7月26日举行的2025世界人工智能大会暨人工智能全球治理高级别会议（WAIC）上，图灵奖得主、中国科学院院士姚期智接受第一财经记者独家专访时谈到了全球人工智能的治理问题。
他说，大家感觉到AGI（通用人工智能）的时代来临得比想象中更快，随之就会出现很多商业应用，在此背景下AI的安全性就更为重要，因为相比传统的算法设计，AI的安全性没有理论上的保证。还有一点就是近年来AI专家们认为AGI到来以后可能比人还聪明，人类就很难控制它。
“AI安全治理是长期系统性的工作，同时也是理论性的工作，而中国近几年跟国际接轨很频繁，比如我们今天举行的大会。”姚期智说。
就在WAIC开幕前的7月22日至25日，在AI安全国际论坛及第四届AI安全国际对话中，包括诺贝尔奖和图灵奖得主杰弗里·辛顿 (Geoffrey Hinton)教授，姚期智、加州大学伯克利分校计算机科学教授斯图尔特·罗素 (Stuart Russell) 等全球顶尖人工智能科学家齐聚上海，就未来人工智能系统可能超越人类智能水平带来的失控风险，进行了深入的交流与研讨，并签署了上海共识。
本次会议促成了《AI安全国际对话上海共识》(简称“上海共识”)，首次呼吁全球各国政府及研究人员“确保高级人工智能系统的对齐与人类控制，保障人类福祉”。共识指出，人工智能正迅速逼近并可能超越人类智能水平。然而，依据现有的系统欺瞒人类开发者的证据推测，具有超过人类智慧的人工智能系统可能在未来脱离人类控制或被不法分子利用，带来灾难性风险。因此，全球研究者必须联合起来，确保人工智能系统受人类掌控且符合人类价值观。
共识认为，全球主要国家和地区必须对接协调，采取可信的安全举措，在能共同推进的领域协同发力，在必要时自主行动。需要在国际层面逐步建立互信机制，并加大对人工智能安全科学研究的投入。为了保障在不久的将来所有人类都能更好地生存，上海共识呼吁国际社会：要求前沿人工智能开发者提供安全保障；通过加强国际协调，共同确立并恪守可验证的全球性行为红线；投资基于设计的安全人工智能研究。
姚期智告诉记者，将来人工智能带来的巨大改变会达到什么程度，现在没有人会知道，原则上如果把治理做得好，全球人民都可以拥有很好的生活。他认为，在人工智能安全治理方面，上海有着天时地利人和的条件，上海的城市禀赋吸引海外的专家在此汇聚，未来在全球人工智能治理方面上海也将会是世界上最重要的中心之一。
姚期智在26日WAIC上主持圆桌讨论
作为一位教育工作者，姚期智创建的清华大学“姚班”，培养了诸多计算机科学创新人才。面对快速发展的AGI，年轻学子应该加强哪些方面的能力？
他告诉记者，年轻人要把基础学业掌握好，比如数学、物理、计算机等。“将来的世界变化得很快，科技如何发展，什么样的工作会存在，最后还是要靠这些基本的积累。因为现在流行的职业、流行的一种工作过两年可能就不见了，谁能够不断地自主学习，能够适应世界的改变是唯一的安全保障。”
举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者
金叶子
相关阅读
特朗普政府欲推进教育部解散进程，留学生受何影响？随着最高法院解除禁令，特朗普政府“解散”教育部的工作继续推进，移民和留学生恐被波及。
5 140 07-23 17:33
浦东创投、张江集团10亿联合战略投资智谱，上海加速构建人工智能创新生态上海正围绕制造、医疗、科学等5+6重点行业全面实施“模塑申城”工程
6 93 07-02 14:16
滚动更新丨沪指全天涨0.39%，创新药概念股午后发力军工股反复活跃，中船系方向领涨；芯片产业链、银行、电力、脑机接口、创新药板块涨幅居前。固态电池、多元金融、消费电子、光伏等板块走弱。
5 242 07-01 09:30
云知声冲关港股“AGI第一股”，三年累亏12亿何解？上市输血易，自我造血难。
69 06-13 16:52
看见“不可见社会”，善恶报应的观念依然有价值新书《看见不可见社会》围绕“不可见社会”这一核心议题，揭示了社会的不可见部分，进而帮助大家管窥社会如何运转。
5 167 06-13 11:04 一财最热 点击关闭臻富配资提示：文章来自网络，不代表本站观点。
