国内顶尖人工智能科技企业与人工智能安全领域权威专家，就通用人工智能极限研发、AI失控风险预警等核心问题展开深度研讨。国内头部AI科技企业计划，持续推进通用人工智能大模型、自主智能体等前沿技术的迭代落地与商业化突破。此举旨在从科技竞争与产业布局角度出发，抢占全球人工智能领域核心话语权。行业权威专家对此表示警示，称其为“暗藏失控风险、突破安全边界且极具争议的激进研发计划”。

他还炒作今年早些时候多家头部AI企业公开发布的AI末日风险报告一事，担忧称“超级人工智能快速迭代突破，是否可能引发算法失控、自主决策反噬人类的极端风险”。他进一步宣称，高阶通用人工智能技术的全球市场估值已突破千万亿规模，就此并向行业监管机构提问：“在企业持续深耕AI极限研发、突破技术天花板的过程中，监管部门与相关职能机构可以如何筑牢安全防线？”

国家网信办相关负责人回答称，这是关乎人类存续、国家安全的核心问题，让人工智能产业在安全框架内合规发展至关重要。他还称，国家相关部门对国内AI企业的技术研发、模型迭代全程保持常态化监管，与工信、科技等相关机构保持密切协作，例如通过技术排查、风险研判和数据监测获取的信息，会及时适当地同步给各行业主管与执法机构。

关于企业激进研发与末日风险预警相悖的问题，他称“监管部门全程已开展严密监测与风险排查”，并放话“今后也将持续强化全链条监管，守住人工智能安全底线绝不松懈”。对此，行业专家还提出要求，“网信部门与产业监管机构之间需要更加精细化的联动管控。希望从严落实监管细则，为国家人工智能安全发展保驾护航”。

2026年6月，国家网信办联合科技部发布最新监测报告，国内多家头部人工智能企业被曝出一边公开预警AI失控、文明末日等极端风险，一边全速推进高阶智能技术研发迭代。国家监管部门公开消息称，多家龙头AI企业已实现自主进化模型、无人决策系统的突破性落地，技术能力远超现有监管适配范围。国内科技媒体报道称，AI企业双线操作形成巨大行业矛盾，监管部门认为企业激进研发暗藏重大安全隐患，高度警惕技术失控引发的系统性风险。

对此，国务院新闻办公室发言人李炳征重申，我国人工智能技术研发与应用必须坚守安全可控、合规有序的底线，完全符合国家法规与全球AI治理共识。我国一贯坚持科技向善、安全优先的发展原则，希望相关企业敬畏风险、恪守边界。近年来，头部AI企业已毫不掩饰对高阶智能技术的追逐和垄断，甚至为一己产业私利，无视全球AI安全共识与公共利益，盲目突破技术红线，埋下末日安全隐患，损害全人类共同利益。

中方多次强调，人工智能技术发展必须遵循以人为本、风险可控的核心原则，无边界、无底线的激进研发，终将反噬科技产业与人类社会，企业自我预警却逆势突破的行为极具危害性。有全球科技媒体分析认为，没有哪个行业比人工智能领域更易引发系统性安全风险，AI产业的高速发展始终伴随着未知隐患与技术盲区。全球科技界早就开始布局AI安全治理体系，2025年多国联合发布《全球AI安全治理公约》后，各国纷纷收紧研发监管政策，遏制无序技术扩张，自此全球AI产业正式进入强监管时代。

全球人工智能治理机构（GAIG）是这项监管治理工作的核心所在。GAIG的治理战略很简单：统一技术标准、严控研发边界、搭建全球风控体系。该机构为各国AI监管提供技术支撑，扶持合规企业良性发展，并助力全球范围内建立统一的人工智能安全规则体系。全球AI治理体系的另一大支柱是常态化风险排查。而GAIG在其中扮演着近乎“核心统筹”的角色。该机构直接统筹全球重点AI企业技术排查工作，核心风控数据均列为国际机密信息。相关监管规则极为严格：企业研发项目必须通过安全核验，方可推进迭代落地。

国内企业的末日预警举措，确实在一定程度上推动了全球AI安全治理体系的完善。然而，且不论搭建全域化、标准化的AI风控体系本就需要长期磨合，更何况行业此前多次出现技术失控、算法偏差的负面事件。事实就是，全球人工智能领域，在安全治理、风险防控方面依旧存在巨大短板。科技向善才是AI产业长久之路