“大模型与数字治理•2023科创先锋论坛”25日在沪举行
大模型风起，百舸争流。过去这一年，国产AI大模型陆续获批上市，大模型如何驱动商业变革？安全问题何解？
10月25日，由澎湃新闻和上海漕河泾新兴技术开发区联合主办，上海人工智能研究院学术支持的科创先锋论坛以“大模型与数字治理”为主题在漕河泾会议中心成功召开。本次论坛，科创先锋以及专家学者等齐聚一堂，共同围绕AI大模型的技术发展、应用方向、数字治理等话题展开了探讨。
“模都”成上海现代科创文化
近年来，以人工智能等为代表的智能科技不断实现跨越式发展，已成为新一轮产业变革和技术革命的重要驱动力量，正以前所未有的速度和广度，深刻改变着我们的生活。8月底，首批通过《生成式人工智能服务管理暂行办法》备案的大模型产品名单正式公布，更意味着大模型已经“走入寻常百姓家”，正式面向公众提供服务，一个更开放互通的“AI+”时代正在到来。
上海作为全国首个“国家人工智能创新应用先导区”，今年7月公布了《上海市推动人工智能大模型创新发展的若干措施》，打响了上海建设AI“模都”的“发令枪”，根据这份“模”都动员令，上海将围绕创新能力、创新要素、创新应用、创新环境四个方向，重点打造大模型创新扶持、智能算力加速、示范应用推进等三项计划以及五大平台，营造上海人工智能开源生态产业聚焦。
上海市科学技术委员会副主任王晔表示：“上海作为一座社会主义的国际大都市，超大型城市，有着海量的数据，丰富的应用场景。我们都感慨上海在管理精细治理、教育、医疗、文化、旅游等方面都有出色的表现，这是上海的要素，也是人工智能的要素。随着人工智能和这些要素融合，将会迸发出更加强劲的活力和动力。”
上海市科学技术委员会副主任王晔
作为人工智能发展集聚区，上海漕河泾新兴技术开发区抢抓大模型机遇，多方布局人工智能发展。国内通用大模型创业公司估值最高的MiniMax、计算机图形渲染引擎开发龙头粒界科技、AR领军企业灵伴科技、国内顶尖MBSE工业软件企业烜翊科技等先后入驻。此外，漕河泾开发区还在筹划园区GPT创新生态。依托成熟园区丰富场景，以通用人工智能对产业进行赋能，纳入区内多家企业垂直类应用，支持数字文娱、电商零售、生命健康、金融科技等领域开展生成式人工智能产品创新和场景开发。
上海漕河泾新兴技术开发区运营管理有限公司副总经理薛晗在大会上透露了漕河泾开发区在大模型发展上的下一步规划，将按照市委市政府“重点支持上海市创新主体研发具有国际竞争力的大模型”的新要求，进一步开放创新应用场景，加强算法、图像视频、传感器以及自然语言处理等领域的协同创新，加快“元创未来”元宇宙特色产业园区建设，促进区域内大中小企业融通创新，持续以科技金融、知识产权等特色服务赋能产业发展。
上海漕河泾新兴技术开发区运营管理有限公司副总经理薛晗
澎湃新闻作为一个勇于尝试新技术的媒体，已经切身感受到“大模型+媒体”对内容生产行业带来的机遇和挑战，并将密切关注着大模型对各行各业的影响，持续报道科技和制度创新。
大模型深入行业，风险与机遇并存
如果说人工智能是数字技术革命和科技发展的关键命题，那么融合了行业数据与知识的通用大模型则是变革的灵魂核心。
在“通用大模型与行业变革”的主旨演讲中，上海人工智能实验室主任助理、上海交通大学人工智能研究院副院长王延峰指出，通用大模型和行业大模型是相互促进关系而不是替代关系。“大模型开启了我们通用人工智能之门，传统各行各业加上我们通用人工智能就会带来新的行业、新的变革。”
上海人工智能实验室主任助理、上海交通大学人工智能研究院副院长王延峰
过去十年是人工智能发展的黄金十年，计算智能AplhaGo相关技术已经超越了人类的水平，在大数据的支撑下，大模型感知智能领域如语音、图像、人脸识别等很多场景下也有着出色表现。进一步到认知智能领域，科大讯飞AI研究院副院长刘俊华在“星火认知大模型进展及安全应用实践”的主旨演讲中，介绍了科大讯飞的星火认知大模型的发展进展和安全应用方面的挑战。
刘俊华介绍，人工智能发展分为计算智能、感知智能和认知智能三个层次，认知大模型则是在自然语言为核心的认知领域取得了突破。在介绍星火认知大模型的通用性和个性化特点的同时，刘俊华指出，大模型虽然发展迅速，但在应用中存在安全风险，包括参数记忆的不准确性和数据来源的偏见。为了解决这些问题，刘俊华提出了在评价标准、数据、算法、人机协同审核机制以及应用场景等不同层次的约束方案。他强调了大模型的双刃剑性质，并呼吁在大模型时代构建一个重视细节、坚守人类文明价值观的生态系统。
科大讯飞AI研究院副院长刘俊华
大会上同样指出风险的还有上海交通大学讲席教授，日本工程院外籍院士李颉。在“如何构筑人工智能安全之墙”的主旨演讲中他提到，人工智能的三大要素——算法、数据和系统都会带来风险。在降低安全风险上，李颉介绍了零信任架构，即不信任企业网络内外的任何人、设备和系统，要求每次访问都进行控制和身份验证。此外，李颉还讨论了人工智能安全研究中的数据质量处理、鲁棒性（robustness）和数据审计问题。他认为，人工智能安全建设是一个复杂的任务，但通过合适的措施和机制，可以降低风险并确保安全稳定的发展。
上海交通大学讲席教授，日本工程院外籍院士李颉
在圆桌沙龙环节，围绕“AI大模型的产业应用与数字安全”这一话题，澎湃新闻内容风控首席运营官孙光海与上海市计算机软件评测重点实验室副主任，研究员陈敏刚、蚂蚁财富保险事业群首席技术架构师曹刚以及智己汽车副CTO 郭辉展开了精彩对话，分享了大模型在城市治理、金融、自动驾驶以及传媒领域的应用。一个共识是，从短期来看AIGC改变了基础生产力的一个工具，中期来看会改变了社会生产关系，长远来看则能改变社会生产力。
左起：澎湃新闻内容风控首席运营官孙光海、上海市计算机软件评测重点实验室副主任，研究员陈敏刚、蚂蚁财富保险事业群首席技术架构师曹刚、智己汽车副CTO 郭辉
此外，2023科创先锋榜同期公布，表彰本年度具备开拓创新精神，产生行业示范作用或积极社会影响力的企业或园区。静安市北高新技术服务业园区、江苏无锡经济开发区以及上海国际医学园区集团有限公司等获年度科创园区称号；裕太微电子股份有限公司等企业获年度科创企业称号。