Mooncake获最佳论文奖,采用PD分离技术
热点事件持续更新
Mooncake获最佳论文奖,采用PD分离技术
2 篇报道2 个报道来源3 小时前更新
先了解这件事
AI 综述
郑纬民院士团队研发的推理系统 Mooncake 于2025年获得埃里克·里德尔最佳论文奖,系统采用PD分离技术调度算力。P负责读入用户问题,D负责生成回答。报道称,在相同硬件规模下,Mooncake可多承接75%的用户请求,长文本吞吐能力提升五倍以上。
AI 根据报道生成 · 1 小时前更新
最新进展11月17日 22:12
国内日均词元调用量突破500万亿,Mooncake以PD分离提升推理吞吐报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- 第一财经我国日均词元调用量突破500万亿,算力需求增长
国内日均词元调用量已突破500万亿,算力市场需求暴涨。面对短期智能算力不足,Mooncake推理系统采用PD分离技术调度存量算力;据原文,同样硬件规模下可多承接75%的用户请求,长文本吞吐能力提升五倍以上。
- 新浪财经7x24国内日均词元调用量突破500万亿,Mooncake以PD分离提升推理吞吐
国内日均词元调用量已突破500万亿,算力需求增长之际,郑纬民院士团队研发的推理系统Mooncake采用PD分离技术调度存量算力。P负责读入用户问题,D负责生成回答;据原文,同样硬件规模下系统可多承接75%的用户请求,长文本吞吐能力提升五倍以上。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。