日前

图灵奖得主、清华大学交叉信息研究院院长、清华大学人工智能学院院长姚期智

联合图灵奖得主约书亚·本吉奥（Yoshua Bengio）

清华大学智能产业研究院（AIR）创始院长张亚勤

加州大学伯克利分校教授斯图尔特·罗素（Stuart Russell）等

多位全球顶尖的

人工智能科学家与治理领域专家

齐聚2026年人工智能安全国际对话（IDAIS）

共同拟定并签署了

《IDAIS伦敦宣言》（以下简称：宣言）

呼吁各国

正视人工智能网络攻击、生物滥用技术不断扩散所带来的共同威胁

并携手开展协同防范工作

2026年IDAIS部分参会人员合影，第一排四位为IDAIS发起人，从左到右依次是Stuart Russell，姚期智，Yoshua Bengio，张亚勤

人工智能安全国际对话（IDAIS）汇聚全球顶尖科学家，携手共同应对人工智能带来的各类风险。

2026年3月，IDAIS主办方安全人工智能论坛（Safe AI Forum）首席执行官芬恩·海德（Fynn Heide）率代表团到访清华大学人工智能学院，与姚期智院士及学院相关领域专家围绕人工智能安全重要议题展开学术交流与研讨。

人工智能安全是清华大学重点布局的核心学科方向之一。学校长期聚焦该领域前沿研究与人才培养，持续推进相关理论探索、技术攻关与国际合作。

Safe AI Forum 代表团到访清华大学人工智能学院

2026年4月17日—19日，由Safe AI Forum与牛津大学马丁人工智能治理研究院联合主办的2026 IDAIS在英国皇家学会举行。在第五场会议上，姚期智、Yoshua Bengio、张亚勤、Stuart Russell等多位全球顶尖的人工智能科学家齐聚，共同探讨如何防范人工智能驱动的攻击行为对社会造成大范围危害。在为期三天的会议中，与会科学家与治理领域专家共同拟定并签署了一份共识声明，即《IDAIS伦敦宣言》。宣言呼吁各国正视人工智能网络攻击、生物滥用技术不断扩散所带来的共同威胁，并携手开展协同防范工作。

《IDAIS伦敦宣言》部分签署者合影

宣言中发出警示，按照当前发展趋势，技术能力有限的非国家行为体，有望在一年内掌握部分国家级网络攻击手段，将对关键基础设施与国家安全造成前所未有的风险。目前全球社会尚未做好应对这一紧迫威胁的准备，而生物领域的滥用风险也接踵而至。

宣言还针对两大风险领域明确了工作重点：守护关键基础设施、强化前沿人工智能模型的安全防护、建立完善的风险评估体系。同时提醒，网络领域当下出现的乱象，也为生物安全风险以及未来更多挑战敲响了警钟，其中就包括逐步走向自主化的人工智能系统可能出现失控的问题。