⚡ 8G 到 12G 显存党的终极解法!19B 甜点尺寸 MoE 实测,把 35B 的速度拉爆 2.6 倍。

查看数: 11 | 评论数: 0 | 收藏 0
关灯 | 提示:支持键盘翻页<-左 右->
    组图打开中,请稍候......
发布时间: 2026-11-3 07:44

正文摘要:

⚡ 8G 到 12G 显存党的终极解法!19B 甜点尺寸 MoE 实测,把 35B 的速度拉爆 2.6 倍。 手头有 RTX 3080 10G、3060 12G 或 4070 的同学,本地跑模型常年陷入尴尬: - 跑 9B 小模型,显存剩一堆,但智商上限明显不够 ...

回复