多模态大模型有哪些内容安全风险点？

AIGC时代如何有效识别与应对价值观偏见？

7月25日下午，上海市委网信办“清朗e企来”系列惠企沙龙2024年首场活动在徐汇区举行。活动聚焦“AIGC时代的信息真相：识别与应对价值观偏见”主题，探讨交流AIGC时代信息安全建设有效路径。

党的二十届三中全会通过的《决定》明确提出“完善生成式人工智能发展和管理机制”。随着生成式人工智能的快速发展，AIGC内容价值观偏见风险愈加凸显。沙龙现场提出，要始终坚持发展和安全并重、促进创新和依法治理相结合的原则，鼓励与引导生成式人工智能技术朝着更加公正、符合伦理的方向创新发展。大模型企业和网络平台要主动承担社会责任，遵守法律法规，尊重社会公德、公序良俗，明确对AI生成内容采取有效措施确保合法合规。对于违法违规行为，监管部门要依法履职、严厉打击，着力维护信息内容生态健康与网络秩序和谐。

来自国家互联网应急中心上海分中心、百度公司、开普云的嘉宾从各自领域做了观点分享。国家互联网应急中心上海分中心介绍了生成式人工智能对网络内容建设产生的深远影响，以及如何构建全方位人工智能安全治理体系等内容；百度公司围绕大模型内容安全治理面临的新问题新挑战，分享了安全对齐、安全围栏建设的实践经验；开普云全面分析了大模型价值观偏见的隐患点，提出加强算法研究优化、做好用户教育引导、增强合作共建等应对措施。与会人员与嘉宾积极互动交流，进一步加深了对AIGC的认识和理解。

本期“清朗e企来”惠企沙龙活动由上海市委网信办主办，徐汇区委网信办、上海大模型生态有限公司共同承办。市网络协同治理联动机制成员单位以及各区网信办负责人，稀宇科技、商汤科技、蜜度科技、小红书、哔哩哔哩等属地主要互联网企业代表参与活动。

今年，为持续做好服务企业的“店小二”，上海市委网信办在“清朗浦江”专项治理行动基础上，升级“清朗e企来”惠企品牌，聚焦属地互联网企业“急难愁盼”问题，重点打造“五大服务包”（即涉企侵权信息受理服务站、系列惠企沙龙、分类指导会、清朗培训营、清朗体检包），进一步提高互联网企业的参与度、感知度、满意度。

其中，涉企侵权信息受理服务站为打击处置网络“黑公关”提供指导支持；系列惠企沙龙打造业界、学界、监管部门良性互动平台；分类指导会因企施策，提供分领域的针对性政策指导；清朗培训营通过线上线下培训服务，提升企业的网络安全防护能力；清朗体检包为企业排查潜在风险，做好预警预防。今年以来，上海市委网信办已陆续组织多场专项活动，积极推动互联网企业规范健康发展

来源：上海徐汇