玩家用傲腾内存无显卡运行 Kimi K3
热点事件持续更新
玩家用傲腾内存无显卡运行 Kimi K3
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
玩家 u/IndividualSurvival 在无显卡设备上用已停产的英特尔傲腾持久内存运行了月之暗面 2.8 万亿参数的 Kimi K3,并通过 llama.cpp 执行推理;这是一项仍在测试中的家庭实验,并非实用速度的运行方案。 测试中,1 比特量化生成速度约为每秒 0.85 个词元,关闭 DAX 后约为每秒 1.50 个词元;3 比特量化约为每秒 0.75 个词元,生成 5 万个词元约需 18.5 小时。
AI 根据报道生成 · 2 小时前更新
最新进展11月13日 15:14
玩家不用显卡,靠停产傲腾内存运行 2.8 万亿参数 Kimi K3报道时间线
沿着报道,了解事件的不同侧面。
11月13日
- IT之家玩家不用显卡,靠停产傲腾内存运行 2.8 万亿参数 Kimi K3
一名玩家在不配备显卡的情况下,使用停产的英特尔傲腾持久内存运行了 2.8 万亿参数的月之暗面 Kimi K3,并通过 llama.cpp 执行推理。采用 1 比特量化时,生成速度约为每秒 0.85 个词元;关闭 DAX 后提升至每秒 1.50 个词元。该项目仍属测试,3 比特量化速度为每秒 0.75 个词元,生成 5 万个词元约需 18.5 小时。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。