DeepSeek准备适配国产GPU,绕开英伟达CUDA
创始人
2025-02-03 10:01:37

2025-02-03 07:38:45 作者:柏景福

DeepSeek要适配国产GPU了?这确实是大好事一件。据报道,DeepSeek在研发大模型时绕过了英伟达的护城河CUDA,这意味着可以直接根据GPU的驱动函数做一些新的开发,从而实现更加细粒度的操作。

例如DeepSeek在多节点通信时绕过了 CUDA 直接使用 PTX(Parallel Thread Execution),其最多只能实现以算法的方式来高效利用硬件层面的加速。

一旦速度变得更快,打个比方这就意味着别人家的模型要训练十天,而DeepSeek只需要训练五天,那么就能给模型喂更多的数据,即能让模型在同等时间内看到更多的数据,间接提高模型的效果。

按照消息人士的说法,DeepSeek拥有一些擅长写PTX语言的内部开发者。

那么,假如它之后使用国产GPU,其在硬件适配方面将会更得心应手,其只要了解这些硬件驱动提供的一些基本函数接口,就可以仿照英伟达GPU硬件的编程接口去写相关的代码,从而让自家大模型更加容易适配国产硬件。

相关内容

热门资讯

IG主场采访事故,外国观众举牌... LPL季后赛精彩赛事依旧在火热进行中,关注赛程的都清楚,接下来只有两场大战了,一场是IG和AL的败者...
俄罗斯方块公司投诉后,美国白宫... IT之家 9 月 9 日消息,美国白宫官网近日上线的网页游戏“Build the Wall”因与《俄...
小钻石打磨产业硬实力(今日快评... “把钻石‘磨’亮,靠的是技术;把产业建强,需要精准有效的服务、不断完善的产业生态和久久为功推进创新。...
科技保险护航新质生产力 当前,战略性新兴产业与未来产业布局不断优化,科技创新正在新质生产力培育中发挥越来越大的作用。和传统领...
6G智能手机,要来了 《经济参考报》9月8日刊发文章《深读“十五五”专项规划|新一代通信网2030年全面建成 6G商用适时...