LLM-8850：扩展卡将Raspberry Pi 5 变为本地人工智能平台

对于普通用户来说，基于云的人工智能模型非常方便。不过，某些使用案例可能需要在本地运行这些模型，以确保数据隐私，或解决网络连接速度慢或不存在网络连接的问题。也就是说，运行大型语言模型甚至人工智能辅助视频分析都需要一定的性能。例如，后者可能有助于计算经过建筑物入口的人数。

M5Stack LLM-8850，另一款可加速这些人工智能应用的扩展卡现已上市。它采用了Axera AX8550 SoC，拥有四个Cortex-A55内核和一个NPU，性能高达24个TOPs。相比之下，集成在现代 AMD 和英特尔 CPU 中的 NPU 性能大约是其两倍。板载的 VPU 还能同时以全高清分辨率解码多达 16 个视频流。显卡还配备了 8GB 内存和散热片和风扇。

显卡通过 M.2 Key M 插槽连接，使用两条 PCIe 2.0 通道。电路板尺寸为 1.68 x 0.94 x 0.38 英寸，兼容Raspberry Pi 5 和其他单板计算机甚至迷你 PC 以及各种人工智能框架。最后，M5Stack LLM-8850 的官方售价为 99 美元，但可能需要支付额外的运费和进口费。