推理速度比 HBM4 快 10 倍：d-Matrix 与 AIchip 联手生产全球首款 3D DRAM

Nvidia 对整个人工智能硬件基础设施的控制依然强大，但现在有不少公司正在努力提供高效的替代方案。几年前，当 Nvidia 难以满足日益增长的推理硬件需求时，d-Matrix 出现了，并抓住机会将自己定位为数据中心领域可靠的生成式人工智能硬件供应商。其首款专用计算卡 Corsair C8广受好评，该公司目前计划推出集成全球首款量产 3D DRAM 的后续型号。

d-Matrix 与高性能人工智能基础设施 ASICd-Matrix 与来自台湾的高性能 AI 基础架构 ASIC 集成商 AIchip 合作开发 3D DRAM 解决方案，据称该解决方案将 "消除制约当今 AI 基础架构的性能和成本瓶颈"。这种新型 RAM 被称为3DIMC(三维堆叠数字内存计算）的新型 RAM 目前正在 d-Matrix 的 Pavehawk 芯片上进行测试。

预计第一款采用 3D 堆叠 DRAM 的商用产品将是 d-Matrix 的 Raptor 推理加速器（Nvidia Jetson AGX 关联链接），它将取代目前的 Corsair 型号。 基于 HBM4-加速器的推理速度提高 10 倍。

d-Matrix 联合创始人兼首席执行官 Sid Sheth 解释说，3D-stacked DRAM 代表着 "一种突破，它不仅使人工智能的速度更快，而且更具成本效益和规模可持续性。3DIMC 标志着我们在提供高效推理架构的路线图上迈出了合乎逻辑的下一步，这种架构能够跟上生成式和代理式人工智能的指数级增长"。