换用Ollama新引擎后,我的Mac推理速度翻倍,但更惊喜的是这个

查看数: 3 | 评论数: 0 | 收藏 0
关灯 | 提示:支持键盘翻页<-左 右->
    组图打开中,请稍候......
发布时间: 2026-6-30 22:42

正文摘要:

每次本地大模型发布新引擎,评论区都会分成两派:一派兴奋地晒出速度对比,另一派担心量化会不会悄悄拉低回答质量。这次Ollama把MLX引擎推给我时,我原本也只打算测一测生成速度,结果却被一个更隐蔽的变化抓住了注 ...

回复