2月26日,据计算机存储领域顶会FAST2025,Kimi与清华大学联合参与的项目论文《Mooncake: Trading More Storage for Less Computation-A KVCache-centric Architecture for Serving LLM Chatbot》获得最佳论文奖。Mooncake是月之暗面Kimi的底层推理服务平台。
2024年11月,Kimi和清华大学 MADSys实验室联合9#AISoft、阿里云、华为存储、面壁智能、趋境科技等机构启动Mooncake开源计划,开源Mooncake Transfer Engine。Mooncake团队还和vLLM团队(UC伯克利大学的开源大语言模型)共同宣布,将把Mooncake的创新性KVCache中心架构引入更多开源社区。(澎湃新闻记者 范佳来)
(本文来自澎湃新闻,更多原创资讯请下载“澎湃新闻”APP)
- 随机文章
- 热门文章
- 热评文章
- 机器人来了,约不?
- 河南女主因拒绝过度装修走红,光一个客厅就让无数人效仿,很高
- 《精神卫生福利机构重大事故隐患判定标准》公布
- 再次装修,坚持做这9个去家务化设计,入住后,邻居们都羡慕
- 谨慎驾驶!咸阳一轿车因雪天路滑冲出大桥……
- 元宵节竟是古代情人节?古人浪漫起来,比我们还会玩!今日头
- 春耕备耕正当时荆州农资市场购销旺
- 连发三起!这类火灾春季多发需警惕!