本地运行人工智能：使用 Stable Diffusion、ChatGPT、Gemma3 和其他软件测试宏碁 Swift Go 16 AI
宏碁 Swift Go 16 AI 笔记本电脑配备 16GB 内存和 AMD Ryzen 7 350，最近接受了我们的测试。其名称中的 "AI "字样表明，这款笔记本电脑已经为人工智能应用做好了准备。 我们的评测不过，我们的评测结果表明，这款笔记本的内存容量可能不够大。不过，语言模型、图像生成器和视频工具正变得越来越强大，但所需内存仍然较少。从纸面上看，一些有趣的人工智能模型可以在笔记本内存上运行。我们对它们进行了测试。
最新版本的 Windows 11 已经包含了几款人工智能工具，其中一些在本地运行，另一些则在微软服务器上运行。遗憾的是，Copilot 和其他工具的计算能力来源并不总是很清楚。Copilot 应用程序始终需要激活互联网连接。照片应用中的某些功能无需互联网连接即可在本地使用，而其他功能则需要 Microsoft 帐户，并且不能离线使用。通过 NPU（神经处理单元）在本地处理网络摄像头录制的图像和音频质量改进。微软的 "调用 "功能也被重新引入，这引发了一些争议。不过，该功能在默认情况下仍处于禁用状态，只有在启用设备加密和密码保护后才能使用。Windows 中的许多其他人工智能功能并不引人注目，或者只能与 Microsoft Office 配合使用。
要在本地使用替代语言模型和图像生成工具，您需要特定的软件。不过，在家用电脑上运行这些程序的过程已不再像一年前那样繁琐。现在，这两种软件都有简单的软件可供选择，安装快捷，为用户带来了许多可能性。Amuse 提供专门为宏碁 Swift Go 16 AI 的 AMD 硬件定制的人工智能图像生成和编辑软件。LM Studio 提供了一种使用 SLM（小语言模型）的舒适方式--本质上就是用于文本生成的人工智能。FastFlowLM 使用起来并不那么舒适，但它在 NPU 上运行更节能。我们在测试设备上安装了这三个程序。但遗憾的是，我们使用的宏碁 Swift Go 16 AI 仅有 16 GB 内存，配置并不理想。Windows 和预装的宏碁程序很快就消耗掉了有限内存中的 6 到 9GB 内存。这样，可供人工智能使用的内存大约只剩下 10 GB。Amuse 确定可用内存约为 8GB。LM Studio 估计需要 15 GB 内存，但每当我们尝试加载足够大的语言模型时就会崩溃。
AMUSE - 人工智能图像编辑与生成
我们运行的是Amuse的最新版本（3.1）。该软件免费，安装简便。该软件支持 AMD 处理器的 NPU，即使没有专用 GPU，也能明显加快人工智能的工作速度。除了文本到图像的生成，它还提供图像到视频和图像到图像的功能。
要真正生成图像，必须先安装 Amuse，然后加载相应的模型。这是通过程序实现的，操作相对简单，但很耗时，因为每个模型都包含几千兆字节的数据。Amuse 在初级模式下提供了三种预设，其中 "平衡 "选项对我们不起作用。而 "快速 "和 "优质 "模式则可以使用，不过只有快速模式可以真正顺利运行。快速 "模式依赖于小型 Dreamshaper LCM Turbo。它非常适合笔记本电脑有限的内存，而且运行速度非常快。几秒钟内即可生成图像。在专家模式下，还可以运行 StableDiffusion XL Turbo 和 StableDiffusion 3。后者甚至可以卸载到 NPU。但这两种模式都会充分利用笔记本电脑的内存，运行速度并不快。一旦 Amuse 开始运行，笔记本电脑上的其他设备都无法顺利运行，内存利用率问题尤为突出。严重时，如果后台浏览器窗口需要的内存过多，Amuse 甚至会崩溃。只有使用小巧的 Dreamshaper LCM 才是令人愉快的。不过，它的效果相对较好。不过，它的根源在 Stable Diffusion 1.5 中清晰可见。如果不仔细留意提示，就会看到很多模糊的边缘和奇怪的比例。不过，Dreamshaper LCM 的速度也快得惊人。眨眼之间，该模型就能创建图像。在这里，数量优先于质量。一旦图像已经相当合格。然后可以在 Amuse 中通过图像到图像编辑进一步提高质量。
LM Studio - 聊天机器人、推理模型等
LM Studio是一个语言模型管理和执行系统。在笔记本电脑上，可以本地运行 ChatGPT 衍生工具、Llama、Qwen3 和其他工具。与 Amuse 一样，宏碁 Swift Go 16 AI 的限制因素似乎是内存不足，而不是处理能力。OpenAI 的新 gpt-oss 20B 在加载时会因内存不足而崩溃。根据经验，我们可以确认该模型在配备 AMD Ryzen 9 370 和 32GB 内存的笔记本电脑上运行无误。
Qwen3 Vi 8B、Qwen3 4B Thinking 和 IBM 的 Granite 4 H Tiny（Q4_K_M 和 Q8_0）在宏碁笔记本电脑上运行得出奇的好。IBM 的最小语言模型速度惊人，答案充足。Qwen3 Vi 8B 的语音语调非常自然，给人留下了深刻印象，在图像处理方面也表现出了独特的品质。对于视力不佳的人来说，这样的人工智能可以在笔记本电脑上提供极大的帮助。在我们的测试中，推理模型 Qwen3 4B Thinking 在处理纯文本答案时速度最慢。但最主要的是，答案给人留下了深刻印象。根据问题的复杂程度，Qwen3 最多需要五分钟才能给出答案。当然，您可以在思考过程中进行观察，如果答案完全错误，您可以立即进行干预。
许多其他较小的语言模型也能在我们的测试设备上良好运行。不过，每个语言模型也会在固态硬盘上消耗大量空间。每个语言模型需要 3 到 7 GB 的空间。小型语言模型（SLM）的用途之广令人惊讶。
移动中的人工智能 - 完全支持 AMD-NPU 的 FastFlowLM
遗憾的是，在旅行中使用 LM Studio 的用户必须做好电池电量迅速耗尽的准备。LM Studio 使用 CPU 和 GPU 进行所有计算。遗憾的是，我们的 Ryzen 7 350 中的高能效 NPU 没有受到影响。FastFlowLM让您可以利用 AMD 芯片的 NPU 性能。尽管 LLM 在 NPU 上的运行速度并没有明显降低，但功耗却大大降低。输出质量保持不变。不过，FastFlowLM 比 LM Studio 稍难使用，因为它没有自己的图形用户界面。FastFlowLM 的图形用户界面可通过Open WebUI 获取。.否则就只能通过 Windows PowerShell 使用。虽然这可能是一种独特的体验。
为了进行比较，我们测量了使用 Gemma3:4b 和 LM Studio 以及 FastFlowLM 时笔记本电脑的能耗。使用 FastFlowLM 时，笔记本电脑的最大功耗约为 25 瓦。通过 LM Studio 使用同一型号的笔记本电脑时，功耗明显更高。我们测得的功耗约为 65 瓦。这两种情况下的输出率（代币/秒）仍大大高于 10 代币/秒。根据不同的计算方法，Gemma3:4b 在每秒 10 个字的情况下，每分钟可输出 250 到 600 个字。根据经验，1.8 个词组对应一个德语单词，1.3 个词组对应一个英语单词。我们分析了 Gemma 创建的德语文本，得出的结果是每分钟大约 450 个单词。这比普通读者的阅读速度要快得多。
结论--本地人工智能是可能的，但并不总是可用的
Windows AI 功能在宏碁 Swift Go 16 AI 上运行无误。令人惊讶的是，来自 Gemma3、Qwen3 和 Granite 4 等 SLM 的答案能快速显示在屏幕上，但质量却因模型和任务而异。如果一定要使用 Text2Image 模型和 Amuse 的其他功能，可能应该选择内存更大的笔记本电脑。宏碁 宏碁 Swift Go 16 AI也配备了 32 GB 内存。
归根结底，人工智能仍处于起步阶段。易于使用并能充分利用 AMD NPU 功能的软件还不存在。这是令人遗憾的，因为我们通过一些修补实现的性能尤其令人印象深刻。甚至 Amuse 也在笔记本电脑上显示出了巨大的潜力，但对我们来说，它产生的错误信息太多，有时还相当缓慢。
我们的测试主要显示了这一点：如果想有效使用人工智能功能，就需要大量的快速内存。如果所有其他程序（如 Word 和浏览器）在使用人工智能功能时都会冻结，那么再好的人工智能也没有价值。
