DeepSeek首次披露:理论成本利润率545%!
创始人
2025-03-02 00:01:38
0

DeepSeek开源周收官,DeepSeek以最后一弹,再次在AI江湖激起了层层涟漪。

3月1日,DeepSeek在知乎上发表题为《DeepSeek-V3/R1 推理系统概览》的文章,全面揭晓V3/R1 推理系统背后的关键秘密。

最大程度优化推理系统,理论成本利润率高达545%

据文章介绍,DeepSeek-V3/R1推理系统的优化目标是更大的吞吐、更低的延迟。为了实现这两个目标,DeepSeek使用了大规模跨节点专家并行(Expert Parallelism / EP)的方法,并通过一系列技术策略,最大程度地优化了大模型推理系统,实现了惊人的性能和效率。

具体而言,在更大的吞吐的方面,大规模跨节点专家并行能够使得batch size(批尺寸)大大增加,从而提高GPU矩阵乘法的效率,提高吞吐。

batch size在深度学习中是一个非常重要的超参数,指模型在训练过程中每次使用的数据量大小。它决定了每次模型更新时使用的训练样本数量,调整batch size可以影响模型的训练速度、内存消耗以及模型权重的更新方式。

在更低的延迟方面,大规模跨节点专家并行使得专家分散在不同的GPU上,每个GPU只需要计算很少的专家(因此更少的访存需求),从而降低延迟。

但是,由于大规模跨节点专家并行会大幅增加系统的复杂性,带来了跨节点通信、多节点数据并行、负载均衡等挑战,因此DeepSeek在文章中也重点论述了使用大规模跨节点专家并行增大batch size的同时,如何隐藏传输的耗时,如何进行负载均衡。

具体来看,DeepSeek团队主要通过规模化跨节点专家并行、双批次重叠策略、最优负载均衡等方式,最大化资源利用率,保证高性能和稳定性。

值得注意的是,文章还披露了DeepSeek的理论成本和利润率等关键信息。据介绍,DeepSeek V3 和R1的所有服务均使用英伟达的H800 GPU,由于白天的服务负荷高,晚上的服务负荷低,DeepSeek实现了一套机制,在白天负荷高的时候,用所有节点部署推理服务。晚上负荷低的时候,减少推理节点,以用来做研究和训练。

不过,DeepSeek也强调,实际上的收入或许并没有那么多,因为V3的定价相较于R1要更低,另外夜间还会有折扣。记者注意到,2月26日,DeepSeek在其API开放平台发布错峰优惠活动通知。根据通知,北京时间每日00:30-08:30为错峰时段,API调用价格大幅下调,其中DeepSeek-V3降至原价的50%,DeepSeek-R1降至25%。DeepSeek鼓励用户在该时段调用,享受更经济更流畅的服务体验。

根据模型价格细节,在标准时段(北京时间08:30-00:30),V3和R1的百万tokens输入(缓存命中)价格分别为0.5元和1元,百万tokens输出分别为8元和16元,R1均为V3的两倍。而在优惠时段(北京时间00:30-08:30),V3和R1的百万tokens输入(缓存命中)则均降为0.25元,百万tokens输出均降为4元。

开源周告一段落,更多惊喜或许还在路上

随着最后一枚“重磅炸弹”的发布,DeepSeek的开源周活动正式告一段落。

在过去的一周里,DeepSeek每天开源一个代码库,堪称公开了一个“技术全家桶”。业内人士分析,这一系列的技术组件看似独立,实则共同构建成了一套精密协同的系统,让DeepSeek在有限算力之下最大程度地“榨干”了GPU,实现了训练推理效率的大幅提升。

记者注意到,在DeepSeek今天发布“最后一弹”的帖子下,不少国外网友表达了赞叹。例如,一名网友表示,到第七天,DeepSeek或许还会发布AGI(通用人工智能,人工智能的最高目标);另外一名网友表示,“这就是为了正确的理由做正确的事情,你们绝对是传奇,鞠躬致敬”;还有网友猜测,DeepSeek愿意公布这些信息,说明他们实际上已经达到了领先的水平,实际的技术能力可能更高。

不仅如此,还有网友将DeepSeek与OpenAI进行对比,表示:“‘成本利润率545%’,等一下,所以你是说我被OpenAI抢劫了?”

与DeepSeek的开源、免费相比,OpenAI的模型收费一直十分昂贵。就在2月28日,OpenAI正式发布最新模型GPT-4.5研究预览版,这是一款号称“情商最高”的通用大语言模型。然而,其高达每100万tokens输入75美元的API调用价格,相比GPT-4o的2.5美元暴涨了30倍,相比DeepSeek的正常价格,GPT-4.5输入价格更是达到了惊人的280倍。

事实上,GPT-4.5发布后,许多网友已在评论区吐槽定价太贵。而OpenAI的CEO山姆·奥特曼也承认,GPT-4.5是一个“庞大且昂贵的模型”。“我们原本非常希望同时向Plus和Pro用户推出它,但随着我们的规模发展壮大,我们已经耗尽了GPU资源。我们将在下周增加数万块GPU,然后将其推出给Plus层级的用户。”奥特曼在其个人社交平台上表示。

作为大模型领域的“鲶鱼”,DeepSeek如同一名初出茅庐、聪明而锐气的年轻人,持续地给行业的老玩家及巨头们带来压力。最近,据外媒透露,DeepSeek正在加速研发DeepSeek-R2推理模型,这一模型原计划今年5月发布,但或许会提前,新模型有望可以生成更好的代码,并且使用英语之外的语言进行推理。

相关内容

热门资讯

冷泉生态系统研究装置全面启动 记者从中国科学院获悉,国家重大科技基础设施“冷泉生态系统研究装置”28日在广州全面启动建设。建成后,...
找矿用上哪些“黑科技”(瞰前沿... 本报记者 常 钦 图①:“航空地质二号”直升机。 图②:科研人员正在运用地球化学技术开展研究。 ...
AI时代,高校图像采集安全备受... 当AI修图技术应用扑面而来,人像处理效率极大提高的同时,如何保证上传教育部学信网高校毕业生图像信息的...
原创 1... 如果是小智的老粉,应该知道我之前在2000元左右是强推骁龙8 Gen2机型的,但随着不少搭载骁龙8 ...
联发科发布两新款处理器 消费者... 2月25日,联发科正式发布天玑7400与天玑7400X两款中高端移动处理器,尽管联发科强调新品在AI...
大模型圈又炸锅!DeepSee... AI 大模型的江湖最近又有大动静啦!DeepSeek 这波操作,直接把行业关注度拉满,快跟我一起来看...
隆华新材:公司通过信息化、自动... 金融界2月28日消息,有投资者在互动平台向隆华新材提问:请问公司的生产有利用工业机器人和人工智能技术...
5.75mm难以置信的薄 传音... 在MWC 2025开幕之前,传音旗下的品牌Tecno预告了一款超薄设计的新机——Spark Slim...
春装选旗舰电视不妨等等看 海信... 【CNMO科技消息】根据权威机构数据,2024年海信系电视全球出货量达到2914万台,出货量份额占1...
iPhone 17首曝光!金属... 不久前,苹果突袭发布iPhone 16e。作为iPhone 16家族的最后一位成员,4499元起的定...
厦门华研软件取得一种石材大板高... 金融界2025年2月28日消息,国家知识产权局信息显示,厦门华研软件科技股份有限公司取得一项名为“一...
一天一个样!火爆全网的机器人已... 这个春节,带火了机器人。听说,第一批卖出的人形机器人已经开始赚钱了。近日,由中国牵头制定的世界首个养...
AI加速度,广东“智”造攀新高 广州国际生物岛的车道上,文远知行的无人驾驶小巴正在穿梭;深圳的福田口岸,美团无人机载着外卖在轰鸣声中...
突然宣布!暂停DeepSeek... 【导读】DeepSeek一天能赚多少钱?官方突然揭秘!潞晨科技暂停DeepSeek API服务 中国...
DeepSeek首次披露:理论... DeepSeek开源周收官,DeepSeek以最后一弹,再次在AI江湖激起了层层涟漪。 3月1日,...
无人机执照有多重要【新疆凯兰航... 首先,它是合法飞行的前提。根据相关法规,无人机驾驶员需持有相应的执照才能进行合法的飞行活动,尤其是对...
泰康接入DeepSeek大模型... 中证报中证网讯(记者 赵白执南)记者2月28日从泰康保险集团了解到,泰康保险集团通过“人工智能+”深...
中国又往天上扔了俩“太空相机”... 发射卫星了!新闻稿是这样说的:北京时间2025年2月27日15时08分,我国在酒泉卫星发射中心使用长...
“春断食”能实现“速瘦”?20... 骨质疏松症患者应尽量少活动,防止骨折?戴眼镜会加深近视,戴上就再也摘不下来了?“春断食”能实现“速瘦...
原创 2... 众所周知,在芯片制造设备领域,ASML公司所生产的EUV光刻机就是最顶尖的存在。正因为技术领先,可以...