2026-06-30 22:14:34
汇通财经APP讯——【OpenAI 研发出新方案,可将推理成本减半】
据一位知晓相关讨论的知情人士透露,有一则此前从未对外披露的消息:本月早些时候,OpenAI 工程师向部分同事表示,依托几项全新研发的优化技术,他们找到了一套方案,能将模型推理成本削减一半以上。工程师将这套新技术应用于无免费 / 付费账号访客使用 ChatGPT 的场景后,一度把所需英伟达图形处理器(GPU)数量压至仅数百块 —— 这一数字低得令人震惊。目前外界尚不清楚 OpenAI 实现此番算力效率大幅提升的具体技术手段,业内常用优化方案大致包括:量化压缩、键值缓存、批量处理用户查询而非逐条单独运算,以及将部分请求分流至功耗更低的轻量化模型或模型分片进行应答。
据一位知晓相关讨论的知情人士透露,有一则此前从未对外披露的消息:本月早些时候,OpenAI 工程师向部分同事表示,依托几项全新研发的优化技术,他们找到了一套方案,能将模型推理成本削减一半以上。工程师将这套新技术应用于无免费 / 付费账号访客使用 ChatGPT 的场景后,一度把所需英伟达图形处理器(GPU)数量压至仅数百块 —— 这一数字低得令人震惊。目前外界尚不清楚 OpenAI 实现此番算力效率大幅提升的具体技术手段,业内常用优化方案大致包括:量化压缩、键值缓存、批量处理用户查询而非逐条单独运算,以及将部分请求分流至功耗更低的轻量化模型或模型分片进行应答。
-
长风破浪
长风破浪会有时,直挂云帆济沧海
篇数: 41545 粉丝: 87
行情
| 美元指数 | 101.17 | 0.06 | 0.06% |
| 欧元美元 | 1.1420 | -0.0002 | -0.02% |
| 英镑美元 | 1.3264 | 0.0008 | 0.06% |
| 美元日元 | 162.61 | 0.69 | 0.43% |
| 美元人民币 | 6.7878 | -0.0065 | -0.1% |
点击排行 48小时
- 黄金交易提醒:9月加息预期升温,金价周线四连阴,多头可以抄底了吗?
- 6月29日财经早餐:加息预期松绑,黄金喜迎提振,伊朗海峡“30天控制”放话支撑油价,美伊多哈会晤在即
- 黄金交易提醒:美伊多哈谈判恐生变,金价再度退守4000关口,多头彻底凉了?
- 美伊冲突或现缓和信号,黄金能否重获避险属性
- 6月30日财经早餐:伊朗否认近期与美谈判计划,会谈真假迷局扰动,利率预期压制金价,地缘风险溢价重回油市
- 黄金连跌四周博弈4000美元关口,短期涨跌看非农
- 被忽略的先行指标正在修复:铜金比脱离历史低位,对市场意味着什么?
- 多哈谈判美伊各说各话,实际利率走低黄金出现反攻信号
- 日元干预预期叠加地缘风险,美元兑日元维持高位运行
- 一张图:2026年6月29日黄金原油外汇股指“枢纽点+多空持仓信号”一览







沪公网安备 31010702001056号