微软首次推出人工智能和云计算定制芯片：128 核 ARM Cobalt 100 和 5 纳米 Maia 100 旨在满足下一代人工智能的训练和推理需求

微软定制的 Cobalt 100 ARM CPU 拥有 128 个内核。(图片来源：微软）

微软终于发布了自己的定制芯片。Maia 100 是微软为 Azure 堆栈设计的人工智能加速器，用于训练 OpenAI 的复杂 LLM。Cobalt 100 是一款基于 ARM 的芯片，拥有 128 个内核，旨在优化 Azure 数据中心的能效。此外，微软还发布了采用 Nvidia H100 和 AMD Instinct MI300X GPU 的新 Azure 虚拟机。

Vaidyanathan Subramaniam (translated by Ninh Duy), Published 11/17/2023 🇺🇸 🇫🇷 ...

AI ARM Business Server/Datacenter

关于微软计划关于微软计划采用定制芯片路线的猜测已经持续了很长时间。微软一直在使用基于高通公司（Qualcomm）的处理器，如 SQ1, SQ2和 SQ3（骁龙 8cx Gen 3骁龙 8cx Gen 3)用于 Surface 系列。然而，关于该公司正在酝酿自己的内部 ARM 服务器设计的报道早在 2020 年就开始出现了。早在 2020 年它自己。

在正在举行的微软Ignite大会上，该公司发布了两个定制硅IP，旨在满足其雄心勃勃的人工智能计划--Azure Maia 100人工智能加速器和Azure Cobalt 100定制CPU。微软将于明年初首先在自己的数据中心部署这些芯片，为Copilot和Azure OpenAI服务提供动力。

不过，微软并没有透露太多关于芯片本身的技术信息。不过，微软确实指出，Maia 100 是一款 5 纳米芯片，拥有 1050 亿个晶体管，是采用这种工艺制造的最大芯片之一。Maia 100 将为 OpenAI 模型和 ChatGPT 运行基于云的训练和推理，专门用于训练 OpenAI 的大型语言模型。

Maia 100 将采用完全液冷的方式，微软甚至设计了带有液冷散热器 "小跟班 "的定制机架来放置这些芯片。

另一方面，Cobalt 100 是一款 64 位 128 核 CPU，专为微软云中的一般工作负载（包括 Teams 和 SQL）而设计。微软表示，Cobalt 100 比目前的 Azure ARM 芯片功能强大 40%。

除了Maia 100和Cobalt 100，微软还宣布了用于运行人工智能和高性能计算（HPC）工作负载的Azure NC H100 v5虚拟机（VM）的公开预览版。这些虚拟机基于 Nvidia Hopper H100 GPU 和 AMD EPYC Genoa 处理器。

客户可以选择两种 NC H100 v5 配置：

40 个 vCPU、320 GB 内存、1 个配备 94 GB HBM3 的 H100 GPU 和 40 GBps Azure 网络带宽
80 个 vCPU、640 GB 内存、2 个配备 188 GB HBM3 的 H100 GPU 和 80 GBps Azure 网络带宽

不过，微软并没有将 AMD 排除在外。这家红魔巨头还宣布，它现在提供的虚拟机采用了 AMD 最新的 Instinct MI300X GPU，每个虚拟机拥有 1.5 TB HBM3。ND MI300X v5 虚拟机利用 Infinity Fabric 3.0 互连的 8 块 MI300X 卡，每个 GPU 拥有 192 GB HBM3 内存，运行速度为 5.2 TB/s。据微软称，ND MI300X v5 VM 的规格包括

每个 GPU 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand，每个虚拟机 3.2 Tb/s
第四代英特尔至强可扩展处理器
PCIE Gen5 主机到 GPU 互连，每个 GPU 64 GB/s 带宽
16 个 DDR5 DIMM 通道

微软的定制芯片目前主要面向服务器端。目前还不清楚该公司是否会在 Surface 阵容中采用某种变体的 Cobalt 100，还是继续依赖高通（Qualcomm），甚至可能是联发科（MediaTek）的产品。令人印象深刻的早期数据从骁龙 X 精英版公布的令人印象深刻的早期数据来看，这不一定是个坏主意。

在亚马逊购买配备 RTX 4050 的微软 Surface Laptop Studio 2