财通证券:字节豆包引领AI 推理算力需求迈向千万卡级别
创始人
2024-12-17 22:01:17

财中社12月17日电财通证券发布计算机行业报告称,2024年12月18-19日,字节火山引擎将于上海举行冬季原动力大会,大会主题围绕AI展开。根据官网信息,大会中将有豆包系列大模型全面升级,以及事关AI+企业服务、AI+产业转型等AI赋能实体经济案例与话题分享。豆包大模型家族涵盖全模态能力,DAU稳坐国内AI应用第一。视频生成模型仍处于测试阶段,随着Open AISora正式商用,字节豆包视频类大模型有望在近期大会中发布并开启商用。

推理算力需求露出“冰山一角”,AI原生应用、视频生成应用、AI改造传统应用,带来国内推理需求从百万卡向千万卡迈进。基于Open AI的论文,推理算力需求与模型参数量、处理token数、活跃用户量的乘积大约成正比关系。当前国内大模型APP推理算力需求或在数十万颗GPU级别。而在实际产业中,真正海量的活跃用户仍暂时在传统应用中,这部分用户量庞大,推理算力需求更为广阔。

假设未来20%短视频由AI生成的前提下,仅考虑短视频且清晰度较低的情况,芯片需求为百万颗级别,未来AI生成高清长视频渗透率提升,将带来推理算力需求的飞跃。总体,国内推理需求正在从百万卡向千万卡迈进。

相关内容

热门资讯

原创 拼... 放眼整个2026年,拼多多的核心玩法依然离不开:强付费和自然流两种玩法。也就是,大家做拼多多,如果不...
顶流主播集体扎根,天下贰经典版... 《天下贰・经典版》公测近半年,服务器依旧火爆,金价稳如老狗,新服世外桃源刚开时上号更是人满为患,刚开...
原创 被... 大家好我是指尖,一般来说,一款皮肤的优秀是有侧重的角度的,要么建模做的好,要么创意不错,也有可能是特...
原创 国... 新英雄六耳已经上线几天的时间了,现在大家如果再来评价这个英雄,你觉得是强,还是弱呢? 我的评价依然是...
继“大司马官宣办第二届PUBG... 前言:现在互联网大环境不好,很多游戏主播都叫苦不迭,因为相较于几年前来说,现在直播人气又低,挣钱又少...