2025-08-16 10:32:12
汇通财经APP讯——【北大提出首个复数大模型,2比特量化,推理仅加法,可手机部署】
目前大模型在推理时通常都非常耗存储和计算,这是因为权重采用FP16存储,占用空间大。北大团队首次提出iFairy方案,把模型权重量化到复数集合 {+1, -1, +i, -i}。这四个值刚好可以用2比特表示,相当于压缩到原本的1/8
目前大模型在推理时通常都非常耗存储和计算,这是因为权重采用FP16存储,占用空间大。北大团队首次提出iFairy方案,把模型权重量化到复数集合 {+1, -1, +i, -i}。这四个值刚好可以用2比特表示,相当于压缩到原本的1/8
-
沐涵
巴菲特不是你爷爷,会真心传授你武功秘籍的永远是你亲爷爷,常在市场混,别忘记回归常识。
篇数: 198223 粉丝: 285
行情
美元指数 | 97.72 | -0.94 | -0.95% |
欧元美元 | 1.1722 | 0.0001 | 0.01% |
英镑美元 | 1.3526 | 0.0001 | 0% |
美元日元 | 146.94 | 0.01 | 0.01% |
美元人民币 | 7.1666 | -0.0136 | -0.19% |
点击排行 48小时