OpenAI近日宣布推出首款自研AI芯片Jalapeño,这款专为推理任务设计的芯片在多项性能指标上超越了英伟达当前最先进的GB300,引发行业震动。据半导体研究机构SemiAnalysis披露,Jalapeño在单位功耗处理能力与响应速度两大核心指标上均领先于英伟达同类产品,标志着AI公司开始深度介入芯片设计领域。
测试数据显示,在运行GPT-OSS 120B模型时,Jalapeño每秒可生成1459个Token,而GB200仅为535个;端到端延迟方面,Jalapeño完成单个任务仅需1.65秒,较GB300的6秒缩短72%。更引人注目的是,当GB300达到最大解码速度时,Jalapeño的吞吐量仍能达到其104.3倍。在能效比这一关键指标上,Jalapeño在GPT-OSS模型上达到每兆瓦每秒5300万个Token,远超GB200 NVL72的1000万水平。
这款芯片采用700瓦低功耗设计,通过将计算核心与HBM4内存直接绑定,实现了15.4TB/s的单封装内存带宽。SemiAnalysis指出,Jalapeño的每瓦HBM带宽达到22,显著优于英伟达Rubin的11.1和GB300的5.71。芯片负责人Richard Ho表示,这种设计有助于数据中心将电力成本降低40%以上,系统级每小时总拥有成本控制在1.56美元,与英伟达H100持平。
开发过程中,OpenAI大量运用AI工具加速设计进程。内部模型GPT-Astra与扩展版Codex深度参与研发,在两个月内将三个开源模型优化至高性能状态。AI辅助设计使SIMD单元面积缩减8%,矩阵引擎面积缩减10%,部分内核代码生成速度比人类工程师快1.8倍。这种"用AI设计AI芯片"的模式,使得Jalapeño从启动设计到完成流片仅用16个月,远低于行业平均18-36个月的周期。
尽管性能出众,SemiAnalysis提醒需关注若干限制因素。当前测试基于8k1k工作负载,尚未完成多轮长上下文场景的AgentX套件测试。与采用HBM4的英伟达Vera Rubin相比,Jalapeño在总拥有成本上优势并不明显。更关键的是,该芯片仍处于工程样片阶段,量产计划要等到2027年才会逐步实施。
在软件生态方面,OpenAI采用自研内核语言Gluon和推理引擎"Teacup",摆脱了对CUDA架构的依赖。这种策略使团队在8天内将张量并行规模从TP8扩展至TP32,实现了跨机架部署。SemiAnalysis分析认为,英伟达Rubin虽提前一个月完成流片,但软件成熟度明显滞后,反映出传统厂商在架构创新上的包袱。
规模化部署方案显示,每个机柜将集成128颗Jalapeño芯片,双机柜系统功耗160kW,与英伟达GB300双宽机柜相当。OpenAI已与Celestica合作开发扩展网络,单个域最多可连接2048颗芯片。更值得关注的是,公司与Broadcom签署的10GW定制加速器协议,规模相当于十座核电机组的发电能力,预示着AI芯片竞赛将进入新的量级。













