AI 晚报 2026-08-19
文章目录
过去 12 小时,AI 精选资讯主要聚焦轻量化模型部署:Liquid AI 发布经过量化感知蒸馏训练的 LFM2.5 系列 Q4_0 GGUF 检查点,在保持较低内存占用和推理速度的同时,恢复了绝大部分量化精度损失。
模型发布/更新
Liquid AI 发布 LFM2.5 系列 QAD Q4_0 量化检查点,恢复 97% 精度损失
来源:Hugging Face:Blog(RSS)|今天晚上 21:48|阅读原文
Liquid AI 发布基于量化感知蒸馏(QAD)训练的 LFM2.5-230M、350M、1.2B-Instruct 和 2.6B 四款 Q4_0 GGUF 检查点。新检查点在保持原生 Q4_0 内存占用和推理速度的同时,恢复了 BF16 版本平均精度损失的 97%,为在消费级硬件上部署轻量模型提供了更实用的选择。
今日关键词:Liquid AI、LFM2.5、量化感知蒸馏、Q4_0、GGUF、轻量模型部署