微软新的人工智能芯片将为其聊天助手提供动力
在GPU短缺的情况下，微软开始寻求定制芯片来运行其人工智能语言模型。
在周三的Microsoft Ignite大会上，微软宣布了两款定制芯片，旨在通过其Azure云计算服务加速内部人工智能工作负载：Microsoft Azure Maia 100 AI Accelerator和Microsoft Azure Cobalt 100 CPU。
微软专门设计了MAIA来运行GPT 3.5 Turbo和GPT-4等大型语言模型，这些模型支撑了微软的Azure OpenAI服务和Microsoft Copilot（前身为Bing Chat）。MAIA拥有1050亿个晶体管，采用5纳米台积电工艺制造。与此同时，Cobalt是一款基于ARM的128核CPU，旨在执行传统的计算任务，如增强微软团队的能力。微软没有出售这两款产品的计划，只希望它们仅供内部使用。
正如我们之前所看到的，微软希望成为“the Copilot company”，它需要大量的计算能力来实现这一目标。据路透社报道，微软和其他科技公司一直在努力解决提供人工智能服务的高成本问题，这些服务的成本可能是搜索引擎等服务的10倍。
由于芯片短缺导致备受追捧的英伟达AI GPU价格上涨，包括亚马逊、OpenAI、IBM和AMD在内的几家公司已经在设计或考虑设计自己的人工智能加速器芯片。微软也觉得有必要定制芯片，把自己的服务推向前台。
该公司在其公告博客中写道：“就像建房子可以让你控制每一个设计选择和细节一样，微软认为增加本土芯片是一种确保每个元素都适合微软云和人工智能工作负载的方式。”然后，它又像饼干广告一样诗意地补充道：“这些芯片将安装在定制的服务器板上，放置在定制的机架上，这些机架可以很容易地安装在现有的微软数据中心中。硬件将与共同设计的软件携手并进，释放新的功能和机会。”
这并不是微软第一次涉足芯片开发。据报道，微软长期以来一直在为其Xbox游戏机和Surface平板电脑系列合作开发芯片。
没有一家科技公司是一座孤岛，微软也不例外。该公司计划继续依赖第三方芯片，这既是出于供应需要，也是为了取悦其错综复杂的商业伙伴关系网络。“微软还将在明年向其机队添加最新的NVIDIA H200张量核心图形处理器，以支持更大的模型推理，而不会增加延迟，”它写道，指的是Nvidia最近宣布的人工智能处理器GPU。它还将在Azure中添加AMD mi300x加速的虚拟机。
那么，新芯片的性能如何呢？微软还没有发布基准测试，但该公司似乎对芯片的每瓦性能比很满意，尤其是对Cobalt芯片。微软公司硬件产品开发副总裁韦斯·麦卡洛在一份声明中说：“架构和实现在设计时考虑到了能效。我们正在最有效地利用硅上的晶体管。将我们所有数据中心的服务器的效率提升相乘，这是一个相当大的数字。”
如果朋友们喜欢，敬请关注“知新了了”！