跳到正文
热点事件持续更新

Mooncake获最佳论文奖,采用PD分离技术

2 篇报道2 个报道来源3 小时前更新

先了解这件事

AI 综述

郑纬民院士团队研发的推理系统 Mooncake 于2025年获得埃里克·里德尔最佳论文奖,系统采用PD分离技术调度算力。P负责读入用户问题,D负责生成回答。报道称,在相同硬件规模下,Mooncake可多承接75%的用户请求,长文本吞吐能力提升五倍以上。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. 第一财经
    我国日均词元调用量突破500万亿,算力需求增长

    国内日均词元调用量已突破500万亿,算力市场需求暴涨。面对短期智能算力不足,Mooncake推理系统采用PD分离技术调度存量算力;据原文,同样硬件规模下可多承接75%的用户请求,长文本吞吐能力提升五倍以上。

  2. 新浪财经7x24
    国内日均词元调用量突破500万亿,Mooncake以PD分离提升推理吞吐

    国内日均词元调用量已突破500万亿,算力需求增长之际,郑纬民院士团队研发的推理系统Mooncake采用PD分离技术调度存量算力。P负责读入用户问题,D负责生成回答;据原文,同样硬件规模下系统可多承接75%的用户请求,长文本吞吐能力提升五倍以上。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。