StorageReview 实测 Ryzen AI Halo:128GB 统一内存迷你主机的 AI 负载表现

Strix Halo 迷你主机早就带着 128GB 统一内存出货了,但”本地 AI 桌面”这个品类是 NVIDIA 用 DGX Spark 造出来的。现在 AMD 交出了自己的答卷——Ryzen AI Halo:同样的统一内存、双系统启动、3999 美元起价。StorageReview 把它放上测试台,跑完了整套本地 AI 负载,结论是:这是一台”决策完全不同”的机器。

拆解后的 Ryzen AI Halo:散热模组、主板与内存颗粒

硬件规格与四个关键差异

核心是 Ryzen AI Max+ 395:16 核 32 线程 Zen 5,配 Radeon 8060S 核显(40 个 RDNA 3.5 计算单元)和 50 TOPS 的 XDNA 2 NPU,平台合计 AI 算力标称最高 126 TOPS。128GB LPDDR5x-8000 统一内存提供 256GB/s 带宽,可容纳最高 2000 亿参数的模型,整机由单根 120W USB-C 供电,尺寸 150×150×45.4mm、不到 1.2kg。

和 DGX Spark 比,真正拉开差距的是四个决策:

  • 双系统:同一硬件可启动 Windows 11 或 AMD Linux 开发者镜像,Spark 只有 Linux。原生 Windows 支持是围观 Spark 的人听到最多的诉求
  • 标准 M.2 2280 盘位(Spark 用冷门的 2242),换盘市场大得多,8TB 容量可选;出厂是 2TB Micron 4600 Gen5(平台按设计协商到 Gen4 跑)
  • Variable Graphics Memory 出厂拉满,大模型免手动调参直接加载
  • 网络只有 10GbE,没有高速互联 fabric——Spark 靠 200G ConnectX-7 能组多节点集群,Halo 不行

价格上,Halo 标价 3999 美元含 2TB SSD,与 NVIDIA 自家 DGX Spark 现价约 4699 美元(LPDDR5X 与 NAND 供应紧张推高的)相比处于品类基准价——华硕等家的 Grace Blackwell 基础款仍卖 4000 美元左右。

Linux 对决:CPU 全赢,推理全输

Linux 下两台机器跑同一套 Phoronix 与 vLLM 测试,结果泾渭分明:

项目 Ryzen AI Halo DGX Spark
7-Zip 压缩 +11% 基准
7-Zip 解压缩 +38% 基准
LLVM 编译 快 14% 基准
STREAM 内存带宽 落后 胜
vLLM 多数场景(高并发) 落后 2-4 倍 胜
GPT OSS 120B(prefill 重) 落后最多 8.8 倍 胜
decode 重负载 差距收窄到约 10% 略胜

GPT OSS 120B 总吞吐对比:Spark 领先幅度最大的一项

Qwen3-Coder-30B-A3B 总吞吐对比

Llama 3.1 8B 总吞吐对比

一句话总结:CPU 工作负载是 Halo 的主场,GPU 推理是 Spark 的主场。RDNA 3.5 跑 ROCm 的成熟度还追不上 CUDA,这是 AMD 的老问题,在这台机器上依然成立。

Windows 一侧:测到的最强 Ryzen AI Max+ 395

Halo 是 StorageReview 测过最强的一台 Ryzen AI Max+ 395 机器,几乎全线压过惠普 Z2 Mini G1a 和 ZBook Ultra G1a:

测试项 成绩
Cinebench R23 多核 37,316
7-Zip 总评 184.2 GIPS
Procyon AI 文本生成(Phi) 1,192(TTFT 0.996 秒)
Procyon AI 图像生成 SD 1.5 FP16 937
Procyon AI 图像生成 SDXL 682
Geekbench 6 单核 / 多核 2,986 / 18,068
Geekbench 6 GPU OpenCL 92,883
Blender CPU Monster 244.7 samples/min
y-cruncher 100 亿位 151.409 秒

对需要在 Windows 上跑本地 AI 工具链(或者干脆要双系统)的团队,这是同品类里唯一的选择——Spark 根本开不进 Windows。

存储与网络:够用,但天花板明确

4K 随机写 IOPS 对比

64K 随机读延迟对比

FIO 测试里两台机器互有胜负,Halo 靠标准 NVMe 通道在部分项目占优,但 Gen5 盘被平台协商到 Gen4 跑,性能上限被设计锁死。10GbE 网口对 NAS 传输、本地数据集搬运够用,想组集群就别想了——没有高速 fabric,多节点这条路是断的。

小夏点评

  1. 买 Halo 的理由从来不是跑大模型更快——推理打不过 Spark,这是 AMD 生态的现实。它的卖点是 Windows、标准盘位、免调参显存这三件事,本质是”x86 正常电脑里最能打 AI 的那台”。
  2. 128GB 统一内存 + 200B 参数容量是入场券,decode 重负载下差距收窄到 10% 说明日常对话类推理它完全能干活;真正拉开差距的是高并发服务场景,个人开发者与团队负载要分开算账。
  3. 对中国开发者的启示:国内 Windows 桌面 AI 工具链(ComfyUI、各类本地 Agent 框架)用户基数大,Halo 是目前唯一能原生跑 Windows 的 Spark 级机器,加上标准 M.2 盘位在国内采购方便,比只能装 Linux 的 Spark 更贴合多数团队的运维现状;但需要多节点扩展的推理服务,它没有高速互联,规划时要把这条红线画清楚。

参考链接

  • 原文:https://storagereview.com/review/amd-ryzen-ai-halo-review

您可能还喜欢...

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注