会议介绍

党建领航学新知，数智赋能谋未来！8月25日，南宁市数据局精心打造的党建品牌活动“数据大讲堂”再度开讲，特邀360数字安全集团首席人工智能安全专家魏晓雷，围绕AI智能体发展趋势、大模型与智能体安全实践、AI赋能网络安全三大主题进行授课。各县（市、区）数据部门、市直相关单位、国有企业等业务骨干齐聚一堂，共同探索人工智能时代数字化建设的安全发展路径。

一、嘉宾介绍

魏晓雷，360数字安全集团首席人工智能安全专家、360智脑业务副总裁、高级工程师，苏州市、无锡市等10多省市网络安全和信息化专家，沧州市高端人才智库特聘专家、首都网信人才库专家、国家电网全国知名专家库专家。拥有多项人工智能、网络安全发明专利，主导或参与人工智能多项国家标准和政务、交通、电力行业标准编制；参与中央网信办、国家数据局等部委和地方多省市“十四五”“十五五”网络安全规划和数字政府规划编制及重大工程建设。

数据大讲堂培训现场

二、专家观点

（一）AI智能体发展趋势

2026年5月，国家网信办、国家发展改革委、工信部联合印发《智能体规范应用与创新发展实施意见》，作为我国首部智能体系统性治理文件，标志着人工智能治理从“大模型内容合规”转向“智能体行为全链路管控”，智能体实现从“输出内容”到“完成任务”的跃升。大模型时代的AI智能体本质是“大模型×（规划+记忆+工具+行动）”的智能系统，依托大模型作为理解与决策中枢、Harness作为全链路调度执行骨架，实现“感知—认知—决策—执行—反馈”的端到端智能循环，具备自主性、连续性、工具调用能力三大核心特征。当前智能应用不断涌现，推动AI从“对话助手”升级为“智能工作团队”，其能力沿部分自主、有条件自主、高度自主、完全自主、超越人类的路径分级递进。

（二）AI大模型和智能体安全实践

人工智能是把双刃剑，与网络安全、数据安全同属总体国家安全观下的非传统安全领域，当前面临四层核心安全风险：一是基础设施层风险，包括供应链漏洞、拒绝服务、算力消耗攻击、算力调度失控等；二是模型层风险，包括生成内容违法违规、模型幻觉、提示词注入与越狱攻击等；三是数据层风险，涵盖训练数据和用户数据全生命周期安全风险、数据投毒风险等；四是智能体安全风险，包括供应链安全、工具越权调用、记忆投毒等。目前，我国已建立“事前备案、审查、检测—事中监测、预警、处置—事后取证溯源、研判分析”的全生命周期监管体系，面向政企单位应构建“管理—技术—运营”大模型安全体系，践行“以模治模”理念训练八大安全模型，形成纵深防御、动态演进的治理体系，保障大模型安全、向善、可信、可控。

（三）AI赋能网络安全

攻防两端的AI化正加速重塑网络安全格局，与此同时，AI也在深度赋能网络安全防护升级，应把握贴合安全场景、安全数据特殊性、安全任务容错极低且持续高并发执行、多模型内生协同四个核心出发点，采用“安全专业大模型专业判断+安全智能体蜂群执行”技术路线，以“数据驱动、模型进化、实战验证、持续反馈”形成进化闭环，聚焦威胁发现、攻防对抗、事件研判三大典型场景，形成“发现风险—理解风险—验证和处置风险”的能力演进路径。

三、专家建议

针对各单位如何安全有序推进AI智能体应用，专家结合培训内容从三个维度提出建议。

（一）构建“管理—技术—运营”三位一体治理体系

管理上完善AI安全管理制度，健全AI组织机构，优化应急响应流程，强化AI安全能力建设；技术上围绕基础设施、模型、数据、智能体、安全接入五大维度，以“以模治模”训练漏洞检测、红蓝对抗、安全测评、风险检测、安全代答、幻觉检测、合规审计、行为监测八大安全模型，构建纵深防御、动态演进的治理体系；运营上建立资产管理、风险分析、监测预警、应急处置、主动防御、攻防演练、态势感知、情报共享的闭环运营体系，保障AI大模型和智能体安全、向善、可信、可控。

（二）规范智能体全生命周期安全管控

针对OpenClaw类端侧智能体安全风险，按四阶段实施管控：规划阶段分级试点，优先用于非核心、非敏感场景并建立准入清单，完成数据分类分级；安装阶段建立插件白名单，采用非特权用户部署，严禁服务实例直接暴露公网，管理后台与API接口启用多因素认证，优先采用容器化隔离部署；使用阶段对文件访问、系统操作、API调用实施最小权限授权，部署内容安全护栏，健全全链路日志审计，定期清理记忆模块；卸载阶段彻底删除程序、数据、配置文件及日志，及时回收账号、API密钥与访问权限。

根据智能体从“调用模型”走向“自主执行”的新变化，构建端网协同的智能体全链路安全治理平台：端侧沙箱约束网络出口、系统命令和文件读写等高风险行为；网关侧对大模型请求、MCP服务请求、技能加载和多Agent协作进行统一接入、权限校验、行为判定和全链路追踪。同时，平台围绕内容管控、行为管控、智能调度、凭证追踪、合规审计和智能运营，形成从执行环境、调用过程到审计运营的闭环治理能力，把智能体应用纳入可控、可审、可追溯的安全运行体系。

（三）推动AI赋能网络安全实战落地

把握安全场景、安全数据特殊性、任务低容错高并发、多模型协同四个出发点，采用“安全专业大模型+安全智能体蜂群”技术路线，聚焦威胁发现、攻防对抗、事件研判三大场景，构建“数据驱动、模型进化、实战验证、持续反馈”的进化闭环，以实战驱动AI安全能力持续提升。

四、结语

智驱发展，安行远征。AI智能体正从“能对话”迈向“会干活”，在为数字政府建设注入强劲动能的同时，也带来了从内容安全到行为安全的全新挑战。唯有坚持发展与安全并重，以“以模治模”构建纵深防御、动态演进的治理体系，才能让AI智能体真正成为数字化转型的可靠助力。南宁市数据局“数据大讲堂”始终秉承“党建赋能、数智融合”理念，致力于构建开放交流、思想碰撞、能力共进的平台。我们愿与广大同仁一起，以全球视野谋划未来，以本土实践书写篇章。

潮起AI风正好，安行致远向未来！让我们共同期待下一期“数据大讲堂”的精彩内容！

数据大讲堂

数据大讲堂是南宁市数据局深化党建与业务融合的重要载体，通过“专家授课+案例研讨+实践交流”模式，已成功举办25期活动，累计覆盖市数据局及各单位数据专员超2300人次。下一步，市数据局将持续聚焦数字南宁、中国—东盟国家人工智能应用合作目标，邀请更多行业专家学者分享前沿理念，为推动数据要素价值释放、服务全市高质量发展注入“数字动能”。

来源 | 发展规划与投资管理科