GPT-5.6即将上线：推理速度达750 Tokens/s，横跨100张晶圆部署

OpenAI 宣布新一代模型 GPT-5.6 将于本周四（7月）向公众发布，旗舰版本 Sol 在 Cerebras 定制硬件上推理速度高达 750 Tokens/s。该模型总参数约 3 万亿，激活参数 1500 亿，采用横跨 70-100 张 Cerebras 晶圆级芯片的部署方式，每层神经网络独占一张晶圆。同时，OpenAI 自研推理芯片 Jalapeño 曝光，兼容全行业 LLM，9 个月内完成设计流片。

发布与审批

• 美国商务部下属 AI 标准与创新中心（CAISI）批准 GPT-5.6 公开发布，OpenAI 技术专家常驻华盛顿配合审查。
• OpenAI 官宣 GPT-5.6 将于本周四全量上线，提供三个版本：Sol（旗舰）、Terra（地球）、Luna（月亮），定价每百万 token 5 美元起。
• Codex CLI 0.143.0 已新增 Amazon Bedrock 平台上的三个模型变体，支持 max 推理强度。

技术细节

• 推理速度：Sol 版本在 Cerebras CS-3 系统上达到 750 Tokens/s，相当于每秒输出 500-600 汉字。
• 模型规模：总参数约 3 万亿，激活参数约 1500 亿，网络层数 70-90 层。
• 部署方式：每层神经网络单独部署在一张 Cerebras 晶圆上，横跨 70-100 张晶圆，通过晶圆间全互联通信，带宽是 Nvidia NVL72 上 NVLink 的 200 倍以上。
• 架构优化：可能采用轻量化 KV Cache 方案，如类似 DeepSeekV4 的架构或混合 SSM 设计（Mamba + Transformer），或注意力与 FFN 解耦（GPU 处理注意力，Cerebras 处理 FFN）。

自研芯片 Jalapeño

• OpenAI 发布首款自研推理芯片 Jalapeño，专为大模型推理设计的定制 ASIC，兼容全行业 LLM。
• 设计流片仅用 9 个月，由 OpenAI 主导架构，博通提供芯片实现与互联，Celestica 负责系统集成。
• 首批 GW 级超级数据中心计划从 2026 年底部署，使用 Jalapeño 及后续芯片。

影响与展望

• GPT-5.6 Sol 初期仅向特定客户开放，被视为高端定制服务。
• 实时智能交互和多步 Agent 任务将因低延迟推理得到显著提升。
• OpenAI 通过硬件-模型协同设计，加速全栈 AI 帝国构建，形成“AI 加速基础设施，基础设施运行更强 AI”的飞轮。