AREXOpen in interactive Feed

AREX Feed Article

General Compute 与 Cerebras 达成多年协议:GPU 负责 prefill,首批 token 拟 2027 年一季度上线

September 30, 2026

9 月 29 日,General Compute 的 X 账号 ,与 Cerebras 合作部署一项推理服务:用 GPU 承担 prefill(预填充),首批 token(词元)计划于 2027 年第一季度上线(帖文写作「Q127」)。帖文把这项服务表述为「全球最快」的推理。约 12 分钟后,发出呼应:「全球最快的推理即将来到 @general_compute。」

同一天,Cerebras 发布,确认双方达成为期多年的协议:由 General Compute 部署 Cerebras 的推理系统,第一个应用场景是 agentic coding(智能体编程)。

帖文里的说法:全球最快与快 20 倍

帖文以「BREAKING」开头,先转述开发者的诉求:「和任何开发者聊,他们都很期待用快 20 倍的 AI 来做开发;问题是几乎没有可用的算力。」随后是 General Compute 的判断:它会解决这个问题,办法是「用 GPU 承担 prefill——现在成本也比以往更实惠」。

「全球最快」和「快 20 倍」是两家公司自己给出的说法;公告里的分工架构写得明确:GPU 做 prefill,解码交给 Cerebras。

协议细节:多年期、按合同交付的专属容量

新闻稿说,这份协议为期多年,第一批容量从 2027 年第一季度起向客户开放。General Compute 的解释了先做编码 agent 的原因:编码 agent 会连续做几百上千次推理调用,读仓库、写改动、跑测试、读失败结果、再改;每一步的等待都会累积成开发者实际要等的时间。

博客还描述了交付方式:General Compute 买下系统,客户按「一份合同、一套 SLA(服务等级协议)」拿到专属容量;Cerebras 在客户侧呈现为一个「可以按延迟目标和价格挑选」的档位。新闻稿的副标题称,这为推理服务商打开了一条新的市场通路。

宣布方是谁:为替代芯片而建的专用云

General Compute 总部在旧金山,新闻稿把它定义为「为部署替代芯片而建的 neocloud(面向 AI 工作负载的专用云)」,官网的说法是「异构计算的部署方」。据 ,公司由 CEO Finn Puklowski 和 CTO Jason Goodison 创办,2026 年 5 月完成 1,500 万美元种子轮,最初围绕 SambaNova 的推理芯片搭建算力服务;说,它从投资机构 Upper90 拿到 4 亿美元贷款,这可能是第一笔以推理专用芯片作抵押的融资交易。

这笔贷款正是为采购这类硬件准备的。Cerebras 新闻稿说,贷款方正越来越多地为「替代加速器」提供融资,neocloud 因此有能力买下系统;推理服务商则可以在不把硬件记进自家资产负债表的前提下,提供基于 Cerebras 的高速 token。General Compute 的博客说,这次 Cerebras 部署是该额度下的第一个项目,也是公司迄今最大的一笔硬件承诺。在 的算力分层里,prefill 一栏是 NVIDIA B300,decode(解码)一栏列着 SambaNova SN50、Cerebras、Positron 和 d-Matrix,其中 Cerebras 被标在「最快」一档。

把推理拆成两段:prefill 交给 GPU,decode 交给 Cerebras

General Compute 官网给出的分工解释是:prefill 是「计算受限、可并行」的阶段,正好是 GPU 擅长的活;decode 是「内存受限、自回归」的阶段,一次只生成一个 token,瓶颈在带宽而不是算力,加算力不会更快,模型越大天花板越低。官网一张对比图把 B300 的单用户解码上限标在约每秒 320 个 token 以下(图注写明数据出自其内部基准,其中 B300 一项依据 SemiAnalysis InferenceX 近似估算),并称在更前沿的模型上还要低得多。

Cerebras 负责 decode 这一段。General Compute 的博客把 Cerebras 的芯片描述为「把模型权重摊在整个晶圆大小的片上内存(SRAM)上」,解码时不必等外部内存总线;博客称,在「单个用户流式输出 token」的场景里,生产环境中没有比它更快的方案。

当天把这次部署概括为分离式(disaggregated)架构:GPU 处理 prefill,Cerebras 系统处理推理。

Agentic coding 是这套分工被率先用上的场景。General Compute 博客算了一笔账:一个需要 400 次模型调用、每次生成约 300 个输出 token 的任务,在每秒 100 个 token 的解码速度下,每次调用要 3 秒、整单任务约 20 分钟;把解码速度提到每秒 2,000 个 token,同一任务缩短到约 1 分钟。博客强调,这是同一个模型、同一个 agent、同一个任务,变化的只有解码速度。

双方高管的表态与容量预订方式

Cerebras CTO 兼联合创始人 Sean Lie 在新闻稿里说:「在 AI 里,速度就是生产力。一个要跑几百步才能完成任务的 agent,只能和它最慢的那一步一样快。」General Compute CEO Finn Puklowski 的说法更强调客户侧:「agent 会做出几千次串行调用,延迟会累积成实际耗时。Cerebras 提供速度,我们的客户把它带给开发者;这份协议说明,neocloud 有能力融资并规模化部署这类硬件。」

也在 :General Compute 正按一份多年协议大规模采购并部署 Cerebras 系统,「更多开发者将因此用上全球最快的推理」;他同时说,Cerebras 推理将经由 General Compute 提供。

想排上第一批机架的客户,可以在 General Compute 的提交模型、流量形态和交互性目标,公司会回复一份价目表和部署窗口。

参考链接