财通证券:字节豆包引领AI 推理算力需求迈向千万卡级别
创始人
2024-12-17 22:01:17

财中社12月17日电财通证券发布计算机行业报告称,2024年12月18-19日,字节火山引擎将于上海举行冬季原动力大会,大会主题围绕AI展开。根据官网信息,大会中将有豆包系列大模型全面升级,以及事关AI+企业服务、AI+产业转型等AI赋能实体经济案例与话题分享。豆包大模型家族涵盖全模态能力,DAU稳坐国内AI应用第一。视频生成模型仍处于测试阶段,随着Open AISora正式商用,字节豆包视频类大模型有望在近期大会中发布并开启商用。

推理算力需求露出“冰山一角”,AI原生应用、视频生成应用、AI改造传统应用,带来国内推理需求从百万卡向千万卡迈进。基于Open AI的论文,推理算力需求与模型参数量、处理token数、活跃用户量的乘积大约成正比关系。当前国内大模型APP推理算力需求或在数十万颗GPU级别。而在实际产业中,真正海量的活跃用户仍暂时在传统应用中,这部分用户量庞大,推理算力需求更为广阔。

假设未来20%短视频由AI生成的前提下,仅考虑短视频且清晰度较低的情况,芯片需求为百万颗级别,未来AI生成高清长视频渗透率提升,将带来推理算力需求的飞跃。总体,国内推理需求正在从百万卡向千万卡迈进。

相关内容

热门资讯

远望谷取得开放式图书无感智慧借... 国家知识产权局信息显示,深圳市远望谷信息技术股份有限公司取得一项名为“一种开放式图书无感智慧借阅机”...
《中华考工记》推多语种海外版 ... 中新网北京2月1日电 (记者 应妮)工业和信息化部与中央广播电视总台战略合作框架协议签约暨大型工业文...
以青春之名,向英雄致敬——学习... 以青春之名 向英雄致敬 向金城龙同志学习的倡议书 全市各级共青团、少先队组织,广大青少年朋友们: 寒...
原创 库... 最近,苹果在中国干了一件大事情,那就是原来定位高端,价格高达7999元的的iPhoneAir,直接降...
荣耀MagicBook 202... 2026年1月31日,数码博主“数码闲聊站”公布了三款荣耀笔记本电脑新品的核心配置。 博文中称,荣耀...