【北大提出首个复数大模型，2比特量化，推理仅加法，可手机部署】 目前大模型在推理时通常都非常耗存储和计算，这是因为权重采用FP16存储，占用空间大。北大团队首次提出iFairy方案，把模型权重量化到复数集合 {+1, ...
【北大提出首个复数大模型，2比特量化，推理仅加法，可手机部署】 目前大模型在推理时通常都非常耗存储和计算，这是因为权重采用FP16存储，占用空间大。北大团队首次提出iFairy方案，把模型权重量化到复数集合 {+1, -1, +i, -i}。这四个值刚好可以用2比特表示，相当于压缩到原本的1/8
风险提示：
任何在本网站刊载的信息包括但不限于资讯、评论、预测、图表、指标、信号等只作为参考，您须自主做出投资决定，并对该决定负责。本网站所含数据未必实时、准确，所以价格可能并不准确且可能与实际市场价格行情存在差异，该价格仅为指示性价格反映行情走势，不宜为交易目的使用。投资者依据本网站提供的信息、资料及图表等信息进行交易行为所造成的损失与本网站无关。
栏目推荐 数据接口 意见反馈 关于我们 信用承诺
沪公网安备 31010702001056号