返回列表
更多 →
I built Ninfer 4080 for 16GB class GPUs
国外 · 灯下漫谈 · 发布于 2026-10-03 · 0 次阅读
来源：Reddit r/LocalLLaMA · 2026-10-03 · 新型 AI / 新品发布
Hi everyone, TL/DR I created NInfer 4080 to run ISTA-DASLab-Qwen-3.8-27B-GSQ at 100k context on an RTX 4080 16GB GPU using way more of the hardware capabilities (max overall: 2720 tok/s prefill, 262 t
本条资讯由「灯下漫谈」整理自 Reddit r/LocalLLaMA，仅作交流参考，版权归原作者所有。
