OpenAI「辣椒芯」干翻英伟达!老黄股价不跌反涨OpenAI's In-House 'Pepper' Chip Challenges Nvidia—Yet Huang's Stock Rose
OpenAI「辣椒芯」干翻英伟达!老黄股价不跌反涨 不和老黄商量 Jay 发自 凹非寺 量子位 | 公众号 QbitAI 倒反天罡了家人们。 刚刚,OpenAI的自研芯片「小辣椒」,跑分碾压了英伟达最强blackwell。。。 700W的功Markets read OpenAI's custom-silicon push as proof AI demand is structural enough to lift the whole supply chain, not just steal Nvidia's share.
📌 核心要点
- 被辣椒狙击同一天,英伟达发布了Jetson Orin Nano 2机器人电脑中文被辣椒狙击同一天,英伟达发布了Jetson Orin Nano 2机器人电脑
- SemiAnalysis实测,它的每千瓦推理吞吐,达到GB200 NVL72、GB300 NVL72机架系统的1.5到1.9倍中文SemiAnalysis实测,它的每千瓦推理吞吐,达到GB200 NVL72、GB300 NVL72机架系统的1.5到1.9倍
- 跑分模型是三个开源大模型,GPT-OSS 120B、DeepSeek R1 670B和月之暗面Kimi K2.5(1万亿参数)中文跑分模型是三个开源大模型,GPT-OSS 120B、DeepSeek R1 670B和月之暗面Kimi K2.5(1万亿参数)
不和老黄商量
倒反天罡了家人们。
刚刚,OpenAI的自研芯片「小辣椒」,跑分碾压了英伟达最强blackwell。。。
700W的功耗,最高1.9倍的每瓦吞吐,最低低出3.6倍的推理时延。
不是官方PR,这个数据,来自半导体深度研究机构SemiAnalysis,他们受邀到OpenAI实验室实测。
一般来说,第一代芯片并不具有竞争力。
但SemiAnalysis最终得出的结论是——
OpenAI这颗第一代芯片,在几乎所有场景下都能击败Blackwell。
低延迟、高吞吐、低并发……全部达到SOTA级别。
据悉,Codex在这一过程中扮演了非常重要的角色,部分AI写的内核,甚至比人类写的性能更好。
也是自进化的一种体现吧。
有趣的是,英伟达股价不仅没跳水,还涨了2.19%。。。
一方面,英伟达有新产品。
被辣椒狙击同一天,英伟达发布了Jetson Orin Nano 2机器人电脑。
另一方面,可能也和OpenAI的态度有关吧。
小辣椒跑分出来后,公司仍然明确表态不会弃用英伟达,训练仍大量用英伟达,且有双方有融资担保的合作。
倒放天罡!OpenAI芯片碾压黑莓
今年6月,OpenAI官宣与博通(Broadcom)合作这颗专为推理打造的芯片,名为「小辣椒」,设计2024年年中启动,从组队到流片只用了约16个月。
8月25日,OpenAI在Hot Chips 2026大会上公开了这颗自研芯片。
与此同时,更多水下的细节,也在冒出。
SemiAnalysis受邀带着自家InferenceX基准套件,到OpenAI实验室当场实测。
结论是,这颗第一代芯片在多个主流开源模型上,击败了它能测到的所有英伟达、AMD和谷歌芯片。
能效是最大亮点。
小辣椒热设计功耗(TDP)只有700W,Blackwell旗舰加速卡则在1200W到1400W。SemiAnalysis实测,它的每千瓦推理吞吐,达到GB200 NVL72、GB300 NVL72机架系统的1.5到1.9倍。
时延同样能打。
端到端推理时延,比英伟达记录的GB200 NVL72、GB300 NVL72最佳成绩低1.7到3.6倍,超低时延场景快2.1到4.1倍。
在GB300最快输出速度的设置下,每千瓦吞吐最高高出8.6到104.3倍。
跑分模型是三个开源大模型,GPT-OSS 120B、DeepSeek R1 670B和月之暗面Kimi K2.5(1万亿参数)。
低并发下,GPT-OSS和Kimi K2.5达到约1400 token每秒每用户,DeepSeek R1在并发1时超过700 token每秒每用户。
100 token每秒的低并发点位,Kimi K2.5上的表现是次优芯片的9倍以上。GPT-OSS在同交互度下的每兆瓦吞吐,接近GB200最高吞吐点的两倍,并发1的点位高出50倍。
正确性也没落下,GSM8k评测结果与英伟达芯片持平。
不过,口径也要说清楚。
以上成绩全部基于单token预测(STP),没有推测解码,也没有prefill、decode分离,对比的Blackwell成绩则开了多token预测(MTP)。SemiAnalysis说,如果和开多token预测的GB300对比,峰值能效优势会缩到约1.5倍。
跑分数字由OpenAI提供,SemiAnalysis团队在实验室现场验证了InferenceX的跑分过程,但没有跑完整套件,也没有测它更偏好的AgentX,后者覆盖长上下文多轮对话,更接近真实生产负载。
与此同时,SemiAnalysis认为,拿Blackwell对比并不算公平,小辣椒真正要对标的是同样用HBM4的下一代Vera Rubin。
Rubin系统已经开始向客户出货,而小辣椒还只有工程样品。
但目前看来,即便直接对标Rubin,小辣椒也依然能打。
它的单token预测每兆瓦输出吞吐,超过了英伟达和CoreWeave 7月公布的多token预测成绩,也远超GB200在2025年的多token预测结果。
每美元产出两者打平,而Rubin的成绩里用了推测解码,推测解码能把每token成本再降3到5倍。小辣椒还没做推测解码,补上后成本优势会更大。
怎么做到的?
奥特曼,你你你…这速度有点太吓人了啊
2025年11月完成流片(CoWoS封装设计),实际芯片点亮只用了3个月,9个月就拿出A0步进的成绩。
第二版B0步进已经进厂流片,每瓦性能还能再提升约25%。
规格上,B0步进采用台积电N3P工艺的单计算die,配N3E工艺I/O chiplet,单die提供13.4 PFLOPS的MXFP4算力,TDP只有700W。
内存是六组HBM4高带宽内存,单封装216GB容量、15.4TB/s带宽,是目前已出货或接近出货的加速卡里最高的,供应商大概率是三星。
软件栈同样关键。内核用Gluon语言编写,它基于Triton,保留SPMD编程模型,但暴露了更底层的抽象。
据悉,这个光速开发的过程中,AI扮演了非常重要的角色。
设计阶段用Codex、GPT-Astra辅助,SIMD单元面积缩减8%,矩阵引擎面积缩减10%。
AI自己写每个内核,部分块的AI内核比人类专家内核快1.5到1.8倍。
迭代速度也相当惊人。
8天内并行规模从TP8扩到整机架TP32,不到两周,部分交互度下的吞吐翻了一倍以上。
这里有个彩蛋,OpenAI用Codex把《毁灭战士》移植到了这颗芯片上,能跑36 FPS。
讽刺的是,OpenAI跑在英伟达GPU上的模型GPT 5.6 Sol,参与了设计这颗威胁CUDA生态护城河的芯片。
英伟达自己的GPU,正在亲手推动潜在继任者的诞生。
SOTA级别内部AI加持,可能也是OpenAI弯道超车的一种方式吧。
辣椒何时登场
所以,这颗小辣椒,什么时候会正式站上擂台?
答案是,工程样品已就绪。
量产会在2027年逐步爬坡,大部分产出集中在2027年底,下一阶段目标是100MW规模。
承载其的单机架系统叫Vindaloo,装128颗小辣椒,配Katsu CPU主机架和Chana交换机架,两个机架合计功耗约160kW,最多16个机架、2048颗芯片组成一个scale-up域。
部署将和neocloud厂商合作,先收集可靠性数据,再逐步放量。
值得注意的是,OpenAI目前并不打算用小辣椒替代其现有的所有芯片系列,仍然会和英伟达的算力伙伴合作。
但同时,OpenAI也将继续开发第二和第三代芯片。
One More Thing
不过,谁能统率好这个辣椒军团,至今还是个问号。
刚刚爆出来,OpenAI数据中心负责人Chris Malone,上周离职了。
The Wall Street Journal 8月25日率先报道,彭博社随后经OpenAI发言人确认。Malone走后没有继任者,职责拆给了多位负责人。
他2025年3月加入OpenAI,正是公司与甲骨文、软银宣布Stargate项目之后不久,负责为高速增长的算力需求建设数据中心。
Stargate开局不顺,OpenAI一度转向向云厂商租芯片,最近又开始恢复自建,方式是整体租下整座设施,而不是租芯片。但据知情人士说,带队的不是Malone。
Malone是这波离职潮中的第4位高管。
此前,首席营收官Denise Dresser、首席运营官Brad Lightcap、CEO Altman的副手Fidji Simo都已离开。TheNextWeb统计,4月以来已有7位高层离任或换岗。
啧啧啧,上市前数月如此密集的C级高管离职,即使按IPO前夜的标准也属罕见。
小辣椒,好像没有能接手的人啊。。。
要不和老黄商量看看,派个人来救火?
(bushi)
参考链接:
[1]https://newsletter.semianalysis.com/p/openai-jalapeno-better-than-nvidia
[2]https://www.wsj.com/tech/ai/openais-head-of-data-centers-has-left-company-6d24fd83?st=r8H2rW
- 具身大满贯还全开源!原力灵机DM0.5登顶RoboDojo,且clone且珍惜2026-08-25
- 具身创业里的香港教授们2026-08-23
- 他给了王兴兴第一个200万,现在给下一个「宇树」当董事长2026-08-23
- WRC最忙机器人:猛干15分钟家务,收纳、补货、叠衣服…2026-08-21
OpenAI's in-house chip effort—reportedly nicknamed 'Pepper' core—is read as a direct challenge to Nvidia's dominance in AI accelerators, yet Nvidia's stock rose on the news. The market's logic: if the biggest AI lab builds its own silicon, it's a vote that AI demand is structural and large enough to sustain the whole supply chain, not a zero-sum theft of Nvidia's share. Custom chips also let OpenAI cut inference cost and reduce dependence on a single supplier. The episode captures the new normal—hyperscalers and labs racing to secure silicon, while Nvidia benefits from being the default training standard even as customers diversify. Shares up, not down, is the market pricing in an expanding pie.