【黄仁勋:AI推理将下沉终端,分布式算力架构成为主流】
(1) 英伟达CEO黄仁勋指出,智能手机早已形成分布式算力架构(部分运算在终端运行,其余交由云端处理),该架构未来也将成为AI Agent的主流运行模式。
(2...
【黄仁勋:AI推理将下沉终端,分布式算力架构成为主流】
(1) 英伟达CEO黄仁勋指出,智能手机早已形成分布式算力架构(部分运算在终端运行,其余交由云端处理),该架构未来也将成为AI Agent的主流运行模式。
(2) 本地化处理可压缩成本、减少响应时延,并实现更优质的定制化体验。未来AI模型可在笔记本电脑、工作站乃至DGX Spark等硬件上常驻运行,搭建全天候在线的AI智能体。
(3) AI时代将迈入解耦分布式计算架构,算力负载拆分部署在云端、企业内网与各类终端设备中,并实现互联互通、无缝协同。用户无需知晓算力实际承载位置,只需享受最优的AI服务与使用体验。
编辑回复