全国政协委员周鸿祎:AI大模型“幻觉”具有两面性
创始人
2025-03-09 09:41:33

中国经济网北京3月8日讯(记者 杨秀峰)2025年开年以来,我国人工智能领域迎来里程碑式突破。大模型DeepSeek的出现引发社会各界广泛关注。今年政府工作报告提出,2025年将持续推进“人工智能+”行动,将数字技术与制造优势、市场优势更好结合起来,支持大模型广泛应用。

全国政协委员、360集团创始人周鸿祎(受访者供图)

“以DeepSeek为代表的大模型的出现,让大模型加速走进百行千业,成为推动我国科技进步、经济增长和国家强盛的关键力量。”全国政协委员、360集团创始人周鸿祎同时指出,值得注意的是,包括DeepSeek在内的大模型都存在“幻觉”,偶尔会生成看似不合理、与事实不符的情况。究其原因在于,“幻觉”是一把双刃剑,是大模型与生俱来的特点,不可消除,也决定其创造力和想象力,对于实现AGI(通用人工智能)极其重要。如果大模型没有“幻觉”,就失去了想象力和创造力。并且越是能力强的模型,一般“幻觉”也越多。

周鸿祎认为,在科研领域,大模型能“想象”新药分子结构、蛋白质的结构等,为新研究指引方向。在医疗、法律、金融等对准确性要求高的领域,“幻觉”虽然可能出错,但可以利用技术手段,如RAG(检索增强生成)技术,通过比对专业知识库、网络实时信息等方式予以矫正。

他建议,对大模型以及相关的产品和服务实施柔性监管,适度包容大模型的“幻觉”,对于“幻觉”导致的一般性失误,避免直接关停下架,给予企业自我纠正的机会,促进企业大胆创新、放手竞争,争取让更多企业“复制”DeepSeek的成功。

相关内容

热门资讯

云应用安全与影子IT管控:Pi... 影子IT的隐患与治理挑战 随着SaaS应用的快速普及,员工在未获IT部门授权的情况下自行使用云存储、...
2026年预算4000多手机怎... 对于预算在4000多的朋友来说,2026年的手机市场选择非常丰富,无论是追求学习效率的大学生,还是想...
华为昇腾310/910芯片通过... 5月28日消息,华为昇腾310和昇腾910芯片正式通过了中国信息安全测评中心的安全可靠等级I级认证。...
跟AI聊了300小时,真有人被... AIPress(AI普瑞斯) AI真能把人夸傻掉。 这不是危言耸听。 据《纽约时报》报道,去年五月,...
谷歌AI搜索遭用户抵制,Duc... 上周,谷歌宣布对搜索功能进行大规模改版后,笔者在路上无意间听到一名女性正在打电话,说她要换用Duck...