数据世界
产业资讯 宏观经济 企业动态 人物动态 科技数码 数据洞察 AI前沿 行业峰会 热点资讯

面壁智能联合发布BitCPM-CANN:国产算力助力端侧大模型显存红利大释放

2026-05-26来源:互联网编辑:瑞雪

面壁智能近日携手清华大学、OpenBMB开源社区,共同推出并开源了其在低比特大模型训练领域的突破性成果——BitCPM-CANN。这一三值(1.58-bit)大模型不仅是中国首个完全基于国产算力平台华为昇腾实现端到端训练的模型,更在技术层面实现了重要突破。

在5月23日的华为鲲鹏昇腾开发者大会(KADC 2026)上,BitCPM-CANN首次亮相便引发了广泛关注。如今,面壁智能决定将这一成果的全系列模型向全社会开放,为端侧大模型的发展注入新的活力。与传统BF16精度相比,BitCPM-CANN在推理阶段能够释放约6倍的显存红利,同时将模型能力保留率维持在90%至97.2%的高水平。这意味着,在相同的设备内存下,可以承载更强大的模型能力;或者,在保持相同模型能力的情况下,所需内存仅为过去的六分之一。

这一技术突破对于端侧设备,尤其是手机来说,具有重大意义。以手机为例,未来有望在手机上运行参数规模达到60B的大模型,这将极大提升手机的智能化水平。目前,“2-bit”量化已成为端侧芯片行业的研究热点,也是实现手机上运行更大参数模型的关键技术瓶颈之一。通过2-bit量化,模型权重可以被压缩6至8倍,从而能够存入手机闪存。例如,4GB内存的手机可以存放16B的模型,若配合MoE与激活范围约束技术,甚至可以存放32B的模型;若内存扩大至8GB,则模型参数可扩展至60B。

面壁智能表示,BitCPM-CANN的发布标志着其高效大模型“小钢炮”在端侧落地能力上的进一步提升。通过开源这一成果,面壁智能不仅展示了自身在低比特大模型训练领域的技术实力,更为中国端侧大模型赛道的发展贡献了一份新的力量。这一成果的开放,将有助于推动端侧大模型技术的普及和应用,为智能设备的未来发展开辟新的道路。

三星T9移动固态硬盘:3米跌落验证实力,防摔耐用与速度安全兼得
三星T9移动固态硬盘:以3米跌落测试为标尺,重新定义可靠与耐用在众多移动固态硬盘中,三星T9移动固态硬盘以严苛的3米跌落测试为验证基准,将防摔从参数转化为实绩——它不是实验室里的理想值,而是反复锤炼后的工程承…

2026-05-25

四大品牌新机扎堆来袭!OPPO Reno16与荣耀600今晚首发,影像设计亮点纷呈
具体来看,OPPO Reno16系列定于5月25日18:00正式发布,荣耀600系列发布时间为5月25日19:00,vivoS60系列将于5月29日登场,华为nova 16系列则定档6月1日发布。 OPP…

2026-05-25