BITNET（bitnetcpp）

今天给各位分享BITNET的知识，其中也会对bitnetcpp进行解释，如果能碰巧解决你现在面临的问题，别忘了关注本站，现在开始吧！

本文目录一览：

• 1、20亿参数仅0.4GB,能耗骤降90%!微软开源全球首个2B参数「原生1.58bit...

20亿参数仅0.4GB,能耗骤降90%!微软开源全球首个2B参数「原生1.58bit...

微软开源的BitNet b58 2B4T是全球首个原生58比特量化的大语言模型，拥有20亿参数，内存占用仅0.4GB，能耗降低超90%，性能媲美顶尖全精度模型。

微软发布的BitNet b58 2B4T是全球首个原生1-bit、20亿参数的开源大模型，其内存占用仅0.4GB，性能媲美全精度模型，且在推理速度、能耗等指标上表现卓越。核心特点原生1-bit量化：模型权重仅使用-0、+1三值，激活值量化至8-bit，实现极致低比特化。

BitNet b58 2B4T原生1-bit模型1）是全球首个开源原生1-bit大模型，参数规模约20亿，训练语料达4万亿token。2）内存效率方面，非嵌入层内存仅0.4GB，是全精度模型的1/5，量化后性能不逊于INT4模型。

BITNET的介绍就聊到这里吧，感谢你花时间阅读本站内容，更多关于bitnetcpp、BITNET的信息别忘了在本站进行查找喔。