返回列表
更多 →
Qwen3.8-Flash-Next on 12GB VRAM - 65 tokens per second
国外 · 纸上电台 · 发布于 2026-09-24 · 0 次阅读
来源：Reddit r/LocalLLaMA · 2026-09-24 · 新型 AI / 新品发布
A while ago I posted 15 tok/s output and 100-120 tok/s prompt processing with the IQ3_XXS quant on a 12GB RTX 5070 using llama.cpp. Since then I built my own inference engine for this one model and th
本条资讯由「纸上电台」整理自 Reddit r/LocalLLaMA，仅作交流参考，版权归原作者所有。
