Axera AX8860P 凭借专有 AI 加速器剑指 Nvidia DGX Spark

Nvidia 的 DGX Spark 迎来了一位来自中国的意外竞争者（消息来源：CNX Software）。芯片制造商 Axera 发布了 AX8860 系列，这是一系列专为在本地运行大语言模型而设计的 AI 处理器。这些芯片将用于 Sipeed 和 Radxa 等厂商的小型 AI 计算机，前者声称其即将推出的 MaixStation 在某些工作负载下的表现可超越 Nvidia 的 DGX Spark。

Axera AX8860P 配备 16 个 Arm Cortex-A55 CPU 核心，以及一个专用神经网络处理单元（NPU），可提供高达 256 TOPS 的 FP4 算力。该芯片采用 6 nm 工艺制造，通过 256 位接口支持最高 128 GB 的 LPDDR5X 内存，最大带宽为 273 GB/s。其他规格包括 PCIe 5.0 连接、AXLink 芯片间互连以及丰富的视频编码和解码功能。

AX8860P 的 AI 能力以 Axera 专有的 AXNeutron 架构为核心。与 Nvidia DGX Spark 中的 Blackwell GPU 不同，AXNeutron 是一种专门设计的神经网络处理架构，Axera 称其采用了针对 AI 推理优化的可编程数据流设计。该公司声称，这种方式提高了硬件利用率，并减少了不必要的数据搬移，因此在运行基于 Transformer 的语言模型时可能具有优势。

不过，Axera 披露的 NPU 底层硬件信息相对较少。因此，很难判断其宣称的性能有多少来自架构改进、内存带宽或软件层面的优化。宣传中 256 TOPS 的数字在纸面上令人印象深刻，但对于实际工作负载下的持续性能，它所能说明的却相当有限。

正在开发搭载 AX8860P 的 MaixStation 的 Sipeed（是的，我知道）声称，其方案在部分 LLM 推理基准测试中的表现可以超越 Nvidia 的 DGX Spark。该公司将这一结果部分归功于 AX8860P 原生的稠密 FP4 加速能力，以及对可用内存带宽的更高效利用。此外，Sipeed 的基准测试数据由厂商提供，且仅涵盖特定模型和推理配置。如果没有使用相同模型、量化设置和软件环境进行独立测试，就无法确定 AX8860P 是否能持续优于 DGX Spark。

软件支持方面，它兼容 PyTorch、vLLM 和 SGLang 等主流 AI 框架，但兼容性并不一定意味着同等的性能、功能支持或部署便利性。

Sipeed 计划提供配备 32 GB 和 128 GB LPDDR5X 内存的 MaixStation，目标售价分别低于 2,000 美元和 4,000 美元，预计于 2026 年底前后在 Kickstarter 上发起众筹。Radxa 也在开发搭载 AX8860P 的 Pocket Supercomputer，而 Sipeed 则已概述了多芯片加速器配置的计划。