李大海：提升大模型知识密度，做高效的终端智能_资讯

创始人

2024-10-19 14:21:13

0次

今天分享的是：李大海：提升大模型知识密度，做高效的终端智能

报告共计：35页

《提升大模型知识密度，做高效的终端智能》由面壁智能CEO李大海介绍了该公司在大模型领域的成果和技术探索，核心内容如下：

- 公司发展与模型技术演进

- 发展历程：面壁智能2019年成立，2022 - 2023年发布多款大模型技术，2024年2月发布旗舰级端侧模型MiniCPM - 2B及后续更新版本，在不同维度超越GPT - 3.5及部分竞品。

- 模型技术验证：2018年见证大模型规模法则（Scaling Law），但AI发展并非单纯追求规模，面壁智能探索科学化发展，包括提升知识密度、模型制程优化等，过去四年大模型知识密度平均每8个月翻一倍。

- 高效大模型技术探索

- 知识密度原理：知识密度 = 模型能力 / 模型参数，随着数据 - 算力 - 算法协同发展，模型知识密度持续增强。

- 科学化建设：强调人工智能科学化，探索高质量数据合成与多模态融合机制、智能表示架构等问题，通过模型风洞技术提升模型成长效率，摆脱“炼丹”窘境。

- MiniCPM系列模型介绍

- 模型优势：MiniCPM是大模型科学化结晶，以小博大，同等参数性能更强，成本更低。包括基座模型、多模态模型等，适配多种场景，具有多语言、长文本、高清图像识别等能力，部分能力超越竞品。

- 应用成果：在全球技术社区获得好评，如全球下载量超146万，GitHub Star超15k等。以不同手机芯片测试，生成速度表现优秀，推理成本低。

- 端侧智能潜力与展望：芯片制程提升终端算力，模型制程提升知识密度，两者交汇揭示端侧智能潜力巨大，端侧算力分布离散且总量巨大亟待激活，端侧AI市场势能强劲。

以下为报告节选内容

智能化敏捷开发：引领现代软件创... 在当今快速变化的技术环境中，软件开发的方式也在不断演变。传统的瀑布模型已经逐渐被更加灵活和响应迅速的...

三盈联合发布基于OpenHar... 近日，在2024年易派客工业品展览会上，一款加油设备的发布受到了业界的广泛关注。据悉，该加油设备由三...

银川市举行“百日攻坚战”项目签... 10月18日，银川市举行“百日攻坚战”项目签约和开工推进会。灵武市以及银川创新发展投资集团有限公司与...

翼展低空，沧浪街道企业亮相低空... 今天（10月19日），第二届全国低空经济（苏州）产业创新博览会盛大召开。本届博览会以“翼展低空领航...

消息称三星将重获英伟达订单，游... 10 月 19 日消息，科技媒体 The Information 最新博文报道称，三星电子可能将重新...

开启年度旗舰机皇之争！vivo... 最近正式开售的全新vivo X200系列可谓是年度旗舰，全方面超满分的配置，外加4299起的售价诚意...

重庆长安科技申请车载语音相关专... 金融界2024年10月18日消息，国家知识产权局信息显示，重庆长安科技有限责任公司申请一项名为“车载...

大省挑大梁！山东以产业“含绿量... 眼下，在新泰市楼德镇循环经济产业园区，山东兴泰硅材科技有限责任公司电子级硅烷系列项目的办公楼、附属楼...

部分用户反馈其微软账号遭到疲劳... IT之家 10 月 19 日消息，根据 X、微博等平台用户反馈，不少微软账号遭到疲劳攻击，通过频繁登...

周鸿祎南开大学演讲：人工智能成... 近日，360集团创始人周鸿祎受邀参加南开大学建校105周年纪念活动并发表演讲，分享了对人工智能未来发...

外媒：苹果iPhone 16系... 10月19日消息，外媒发布报道称，与去年iPhone 15系列相比，苹果今年新推出的iPhone 1...

第44届海湾信息和通信技术展关... 新华社迪拜10月18日电（记者温新年段敏夫）为期5天的第44届海湾信息和通信技术展18日在阿联酋迪...

长城汽车魏建军：用热爱造车，因... 赤子之心魏建军，造车三十四年的热爱与使命由大而强，走向世界，是这一代中国汽车人的使命。无论...

以诗性语言凝视科技现实，关山月... 深圳商报·读创客户端记者梁瑛人工智能作为近年大热的社会议题，已被当代艺术纳入创作视野。人类艺术史...

各种各样的奇葩无人机还是无人机... 无人机并不总由4个旋翼和机身组成，许多新型无人机正在诞生。软萌气球无人机一个大气球浮在空中，球面...

国网宁夏超高压公司应用智能装备... 10月17日，在±800千伏灵绍直流极Ⅰ、极Ⅱ线综检现场，国网宁夏超高压公司作业人员张悦操纵着无人机...

李大海：提升大模型知识密度，做... 今天分享的是：李大海：提升大模型知识密度，做高效的终端智能报告共计：35页《提升大模型知识密度，...

深圳市诚茂商贸取得具有防滑抗摔... 金融界2024年10月18日消息，国家知识产权局信息显示，深圳市诚茂商贸有限公司取得一项名为“一种具...

华为申请时钟恢复专利，能够提高... 金融界2024年10月18日消息，国家知识产权局信息显示，华为技术有限公司申请一项名为“种时钟恢复的...

出国参展！嫦娥六号月背样品亮相... 10月14日至18日，第75届国际宇航大会（IAC）在意大利米兰召开。大会以“负责任的太空可持续发展...