优刻得联合智谱AI,构建超千卡规模推理集群
周到上海
2024-03-03 18:40:00

原标题:优刻得联合智谱AI,构建超千卡规模推理集群

智能批改孩子的作业,提供详实的解题思路,大幅提升学习效率;每天编写2000万行代码,帮助程序员显著提高工作效率……AI产业需求持续爆发,大模型催生算力需求。优刻得2月28日透露,正在为智谱大模型提供强大底层算力资源,双方已联合构建超千卡规模的推理集群。

智谱清言是北京智谱华章科技有限公司推出的生成式AI助手,于2023年8月上线。自“智谱清言”上线以来,每日吸引数百万用户访问,面临着在文本、图片、视频等多场景下的大规模实时推理需求。

从2022年起,优刻得就开始为智谱AI提供强大的底层算力支持。目前,优刻得智算中心算力管理规模共计超过3000P。同时,在优刻得云互通产品的加持下,平台还具备强大的“混合组网能力”,让大模型得以实现训推一体化。基于全生命周期的算力资源管理,不仅确保了大模型的高效、稳定运行,使其能够应对各类复杂的推理任务,同时也为云上服务的实时响应提供了坚实的技术保障。

除了公有云上的模型推理服务,优刻得也支持大模型的私有化部署。优刻得与智谱AI正探索以“大模型一体机”为载体的全新合作方式,联合推出行业大模型解决方案,更好地帮助金融、医疗、汽车、制造等行业快速落地大模型业务。

下一步,优刻得将与智谱AI携手并进,以更加灵活可靠的智算底座,推动大模型技术的持续创新与应用。

来源:上海杨浦

相关内容

热门资讯

IG主场采访事故,外国观众举牌... LPL季后赛精彩赛事依旧在火热进行中,关注赛程的都清楚,接下来只有两场大战了,一场是IG和AL的败者...
俄罗斯方块公司投诉后,美国白宫... IT之家 9 月 9 日消息,美国白宫官网近日上线的网页游戏“Build the Wall”因与《俄...
小钻石打磨产业硬实力(今日快评... “把钻石‘磨’亮,靠的是技术;把产业建强,需要精准有效的服务、不断完善的产业生态和久久为功推进创新。...
科技保险护航新质生产力 当前,战略性新兴产业与未来产业布局不断优化,科技创新正在新质生产力培育中发挥越来越大的作用。和传统领...
6G智能手机,要来了 《经济参考报》9月8日刊发文章《深读“十五五”专项规划|新一代通信网2030年全面建成 6G商用适时...