来源：arXiv cs.AI · 2026-10-01 · 新型 AI / 新品发布

arXiv:2609.38386v1 Announce Type: new Abstract: Concurrent autoregressive inference creates a fundamental interference problem: prefilling a newly arrived long prompt can delay tokens for requests tha

查看原文 →

本条资讯由「小柚晨报」整理自 arXiv cs.AI，仅作交流参考，版权归原作者所有。