7月17日上午，国家主席习近平在上海世界会客厅出席2026世界人工智能大会暨人工智能全球治理高级别会议开幕式并发表主旨讲话。他指出，当前，世界百年变局加速演进，新一轮科技革命和产业变革加速突破，全球人工智能技术创新进入前所未有的活跃期，万物智联、人机协同、跨界融合、共创分享的智能技术，叠加释放巨大能量，既蕴含巨大机遇，也面临治理挑战。人类不得不直面时代之问：当机器开始思考，人类如何与之相处？当算法参与决策，安全如何保障？当技术挑战伦理，治理如何跟上？当鸿沟不断拉大，普惠如何实现？这些问题需要国际社会深入思考、共同作答。

技术是时代的刻度，也是文明的载体。每一次科技革命的演进，都是技术创新与制度适配、价值重塑、社会平衡的动态博弈。上述人工智能“时代四问”，从本质上说，是人类社会迈向智能文明必须作答的核心考题。唯有深入思考，且不断；需要共同行动，且正向。

如，从中国的实践与探索，可以看到：立足以人为本的根本立场，统筹创新发展与风险防控、技术突破与伦理约束、效率提升与公平普惠，力求既驾驭智能浪潮又规避发展陷阱，让人工智能始终朝着造福人类的方向稳步前行。

一、当机器开始思考，人类如何与之相处？

曾经，思考与创造是人类独有的精神特质，是区分人与机器的核心边界。如今，人工智能依托海量数据训练、强大算力支撑，具备了自主学习、逻辑推演、内容生成、规划决策的类“思考”能力，机器从被动执行的工具，转变为主动适配、协同赋能的智能主体。机器“会思考”的现实，打破了传统人机关系的认知框架，也引发了一些担忧：人类是否会被机器替代、被技术裹挟、被智能消解价值？

纵观人类技术文明发展史，从蒸汽机解放人力到电力重构生产，从计算机普及数字化到互联网联通世界，技术迭代始终是延伸人类能力、解放人类劳动的过程。人工智能时代亦是如此。机器的“思考”，本质是数据驱动的智能模拟，是对人类思维规律的数字化复刻，缺乏人类独有的情感温度、价值判断、道德坚守与创新灵性。其核心优势在于标准化运算、重复性作业、海量信息处理，而价值抉择、人文创造、情感共情、批判性思维、突破性创新，依然是人类不可替代的核心能力。

应对机器思考带来的人机关系变革，核心不在于抗拒技术、固守传统，而在于守住人类主体性、构建人机协同新秩序。我们要摒弃“人机对立”的片面认知，树立“人为主导、机器赋能、各展所长、共生共进”的全新理念。在产业领域，让人工智能承接基础劳作、流程性工作，释放人类劳动力投身创新研发、品质提升、价值创造；在生活领域，让智能技术优化服务体验、降低生活成本、提升便捷程度，让人类回归美好生活的本质追求；在科研领域，以机器算力突破人类认知局限，助力基础科学攻关、前沿技术突破。

同时，必须守住人机共生底线。所有具备自主决策能力的智能系统，必须保留人类干预、修正、终止的最终权限，杜绝机器自主裁决、技术凌驾于人。此外，加快全民数字智能素养培育，破除技术认知壁垒，让大众从“畏惧智能、被动适配”转向“驾驭智能、主动赋能”，真正实现技术服务于人、赋能于人、成就于人。

二、当算法参与决策，安全如何保障？

如果说传统技术改变的是生产生活方式，人工智能改变的则是决策逻辑。当下，算法早已走出技术圈层，深度融入政务治理、民生服务、金融信贷、教育分配、公共安防、就业选拔等关键领域，从辅助工具升级为核心决策参与者。不可否认，算法替代人工研判、数据替代经验判断、模型替代主观决策，在一定程度上提升了社会运行效率，但算法黑箱、数据失控、算法偏见、技术依附等风险随之凸显，智能时代的安全内涵被全面重构。

人工智能时代的安全，早已超越传统网络安全、信息安全范畴，成为涵盖技术主权、数据安全、算法安全、公共安全、社会安全的复合型安全体系。算法参与决策的最大隐患，在于决策逻辑不透明、责任界定模糊化、底层技术依附性。部分领域存在技术断供、后门植入、数据窃取的潜在风险；部分商业算法、公共算法存在价值偏差，滋生资源分配不公、信息茧房固化等问题。此外，数据非法采集、无序流转、跨境泄露，持续扭曲算法决策的客观性与公正性，给公共利益与个人权益带来双重威胁。

守住算法决策安全底线，必须构建自主可控、透明可溯、风险可控的全域安全屏障。一方面要夯实技术主权根基，聚焦人工智能底层算力、核心算法、基础模型、关键芯片等核心领域，依托新型举国体制推进技术自主可控，打破外部技术范式锁定，摆脱底层技术依附陷阱，从源头掌握发展主动权。另一方面，要健全算法监管体系，推行算法分级分类管理，对公共领域、民生领域高风险算法实行强制备案、逻辑公开、全程溯源，打破算法黑箱，让每一次算法决策都有据可查、有责可究。

与此同时，统筹数据利用与数据安全，完善数据产权、流通、监管制度，明确公共数据、企业数据、个人隐私数据的使用边界，规范数据采集、存储、流转、应用全流程，严控敏感数据跨境传输。建立算法风险常态化排查与应急处置机制，精准防范算法歧视、深度伪造、算法垄断等风险，以全方位、全链条的安全防护，为算法赋能社会发展保驾护航。

三、当技术挑战伦理，治理如何跟上？

技术向前，伦理与制度必须紧随其后。人工智能技术创新的速度，远超传统法律规范、伦理体系、行业规则的更新速度，往往出现“技术跑在治理前面”的现象。算法歧视消解社会公平、深度伪造冲击诚信体系、智能滥用侵犯个人隐私、技术异化挑战人文底线，一系列伦理乱象与治理难题，成为制约人工智能健康发展的突出瓶颈。

纵观科技文明演进史，任何一项颠覆性技术的良性发展，都离不开伦理的约束、制度的规范、治理的护航。技术是中性的，本身无善恶之分，但技术的应用方向、发展价值、社会影响，取决于人类的价值选择与制度规制。智能时代的治理核心，就是以制度补短板、以伦理立规矩、以监管划红线，让技术创新始终在法治轨道、伦理框架内有序推进。

构建适配智能时代的现代化治理体系，关键在于打破事后追责的被动治理模式，构建伦理前置、法治兜底、多元协同、全程管控的治理新格局。坚持伦理先行，建立国家、行业、企业三级人工智能伦理审查机制，将伦理评估嵌入技术研发、模型训练、产品上线、场景应用全流程，把公平公正、尊重隐私、向善可控、以人为本的核心伦理准则，融入技术设计底层，从源头规避伦理风险。

坚持法治赋能，加快人工智能专项立法与细分领域制度建设，明晰人工智能研发者、运营者、使用者的权责边界，细化算法滥用、数据侵权、智能作恶的处罚标准，破解“机器犯错无人担责”的治理空白，以刚性制度约束技术无序扩张。

坚持多元共治，构建政府监管、企业自治、学界支撑、社会监督、行业自律的协同治理格局，打破单一监管局限，凝聚治理合力。同时，积极参与全球人工智能治理，践行共商共建共享理念，推动形成普适性的AI伦理规则与治理标准，破解跨国技术治理难题。世界人工智能合作组织在上海应运而生，这是中国响应全球南方呼声、团结国际社会积极推动人工智能发展和治理的重大举措，具有重大而深远的意义。

四、当鸿沟不断拉大，普惠如何实现？

科技进步的终极价值，是惠及全体人民、赋能全域发展。人工智能在创造巨大发展红利的同时，也催生了全新的智能鸿沟，让全球发展、区域发展、群体发展的差距持续拉大。其中，既有“接入鸿沟”，也有“使用鸿沟”，更有核心技术、创新资源、发展话语权失衡的“能力鸿沟”。

智能时代的发展，不能出现“技术特权”与“数字孤岛”。人工智能不是少数群体、少数地区的专属工具，而是推动社会公平、促进共同发展、助力共同富裕的重要载体。破解智能鸿沟、实现技术普惠，核心是平衡效率与公平，通过制度调控、资源统筹、公共赋能，让智能红利全民共享、全域覆盖。

具体来说，可以从以下几方面推进：

推进基础设施普惠均等，统筹城乡、区域数字基建布局，加大对乡村、欠发达地区、基层社区的算力、网络、智能终端投入，建设公共算力服务平台与免费智能服务体系，降低中小企业与普通民众的技术使用门槛。聚焦特殊群体需求，优化适老化、无障碍智能应用，破除老年人、残障人士的数字壁垒，保障全体社会成员平等享有智能时代发展成果。

推进数字素养普惠普及，将人工智能教育纳入国民教育、职业教育、终身教育体系，均衡城乡优质数字教育资源，开展常态化公益技能培训，帮助低技能劳动者、新业态从业者适配智能时代就业需求，拓宽就业增收渠道。

坚持开放包容、互利共赢，积极助力发展中国家完善数字基建、培育技术人才，弥合全球南北智能鸿沟，让人工智能成为推动全球共同发展的新动能。未来5年，中国将面向发展中国家提供5000个人工智能专题研修培训名额等举措，体现了中国作为负责任大国的担当，也是对“倡导和衷共济，完善全球治理”的具体行动。

习近平主席指出，人工智能发展不应该是某个国家的独奏，而应当是全球合作的交响。回答好人工智能时代“四问”，也需要国际社会“共同作答”。唯有以主动作为应对时代变革，以制度完善规避技术陷阱，以包容普惠彰显文明温度，推动人工智能健康有序、向上向善发展，方能让人工智能真正赋能经济社会高质量发展，增进人民福祉、推动人类文明进步。

（作者为复旦大学特聘教授）