有没有用铭凡N5 pro的或者AMD AI HX370—cpu的兄弟，本地部署模型怎么样？

脑壳儿疼。

有没有用铭凡N5 pro的或者AMD AI HX370—cpu的兄弟，本地部署模型怎么样？

mundane

同时使用air和pro，都可以流畅跑qwen本地模型，pro价格太高了

gonxwd

用的零刻HX370，LM跑QWEN27B或Gemma26B可以，处于基本能用状态。

脑壳儿疼。

gonxwd 发表于 2026-5-16 22:14
用的零刻HX370，LM跑QWEN27B或Gemma26B可以，处于基本能用状态。

每秒多少token，有看吗

screwyterror83

N5 Pro, 没试过用集成显卡跑模型, 集显跑内存, 内存总感觉不够用,而且慢, 机器本身挂了20+容器服务.  所以加了一块半高A3000的N卡, 跑本地小模型速度ok, 20-30 token每秒, 但是缺点很明显, 半高卡容易过热. PCIe丢失.

gonxwd

脑壳儿疼。 发表于 2026-5-18 15:37
每秒多少token，有看吗

30T/S这个水平吧

Pampo

我是N5，感觉核显也就那样，基本上都是靠CPU来算，瓶颈主要还是在内存带宽上，上个稍微大点的内存，双通道，跑一些27b的稠密模型或者32b-A3的MOE都够用了，只不过CPU资源全吃完了

脑壳儿疼。

Pampo 发表于 2026-5-22 18:30
我是N5，感觉核显也就那样，基本上都是靠CPU来算，瓶颈主要还是在内存带宽上，上个稍微大点的内存，双通道 ...

h255处理器吗，我目前也是不过是单条内存，跑不起来27B的模型

redflame

mundane 发表于 2026-5-15 13:03
同时使用air和pro，都可以流畅跑qwen本地模型，pro价格太高了

老哥加内存了嘛？跑的多大模型，我刚到手还没加内存，Qwen2.5 14B的模型直接对话还挺快的，接入openclaw或者open ui卡成翔。还不知道怎么处理

mundane

redflame 发表于 2026-5-28 12:44
老哥加内存了嘛？跑的多大模型，我刚到手还没加内存，Qwen2.5 14B的模型直接对话还挺快的，接入openclaw ...

加到64G了，openclaw 不适合本地大模型接入。

moc129

主要是HX370的NPU没有驱动，只能用核显和CPU跑，白白浪费了算力，希望能适配一下

脑壳儿疼。

moc129 发表于 2026-6-18 22:16
主要是HX370的NPU没有驱动，只能用核显和CPU跑，白白浪费了算力，希望能适配一下 ...

ollama应该已经适配了吧，找找镜像