腾讯混元发布“瘦身成功”的轻量级大模型

最近，腾讯混元团队有了新动作。他们推出了一个更轻便的Hy4模型预览版本。这个新版本最引人注目的变化，是其模型体积得到了大幅压缩。

从1.5TB到214GB：一次模型“减负”

根据公布的信息，团队通过技术手段将原始的Hy4 preview模型权重，从庞大的1.5TB压缩到了大约214GB。这意味着模型的存储和部署需求显著降低，为在更多场景下的应用打开了方便之门。

核心能力保持，性能依然在线

体积变小了，能力会不会缩水？这是大家最关心的问题。团队给出的答案是，压缩后的模型在几个关键指标上表现依然坚挺。

  • 长文理解：处理和理解长篇文本的能力几乎与原始模型持平。
  • 多轮长上下文检索：在进行需要关联上下文的长时间对话时，表现与原版基本在同一水准。
  • 数学推理：能力出现小幅回落，但团队表示整体仍在可接受的范围内。

这样的表现意味着，对于日常的编码辅助、工具调用、长文档处理和常规问答等任务，这个轻量版模型都能有效覆盖，满足大多数应用需求。

轻量化背后的应用想象

模型的轻量化不仅仅是技术上的突破，更预示着应用门槛的降低。更小的体积意味着更快的加载速度、更低的硬件要求和更灵活的部署方式。无论是集成到终端应用，还是在资源有限的环境下运行，这个“瘦身版”模型都提供了新的可能性。