SonicBoom框架发布
热点事件持续更新
SonicBoom框架发布
1 篇报道1 个报道来源11 小时前更新
先了解这件事
报道摘要
HardenedLinux 社区主导开发的 SonicBoom 是采用 GPLv3 许可证的 AI 运行时框架，可通过 LLVM MLIR 编译优化计算图，并依据硬件生成 kernel，减少手工调优。框架沿用 llama.cpp 的 kernel，在 RTX 3050 8G 上将原始性能提升 20%；社区版 v0.0.3 目前支持单点推理，分布式推理计划由企业版提供。
摘自 Solidot
最新进展10月19日 14:37
SonicBoom 发布：AI 框架通过图编译优化告别手工调优报道时间线
沿着报道，了解事件的不同侧面。
10月19日
- SolidotSonicBoom 发布：AI 框架通过图编译优化告别手工调优
HardenedLinux 社区主导开发的 SonicBoom 是采用 GPLv3 许可证的 AI 运行时框架，可通过 LLVM MLIR 编译优化计算图，并依据硬件生成 kernel，减少手工调优。框架沿用 llama.cpp 的 kernel，在 RTX 3050 8G 上将原始性能提升 20%；社区版 v0.0.3 目前支持单点推理，分布式推理计划由企业版提供。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。