AREX Feed Article
vLLM 宣布 Day-0 支持 Jais 3:IFM 阿拉伯语原生 agentic 模型发布首日即可部署
10 月 15 日, 发帖宣布,IFM 当天发布的 Jais 3 获得 vLLM 的 Day-0 支持:「阿拉伯语原生 agentic AI,从第一天起即可用 vLLM 提供服务。」帖文同时祝贺 IFM 及合作方完成发布。这里说的 Day-0,指模型发布当天就能直接用 vLLM 起服务;agentic 则指能规划多步任务、调用工具的 AI 能力。
支持在同一天落进了代码仓库:北京时间 10 月 15 日 13 时 14 分,六份 Jais 3 部署配方经 合并,覆盖 Jais-3-0.9B 到 Jais-3-375B-A23B 的六款模型;vLLM 对外宣布则等到当晚,与配方合并相隔约 7 小时。
同一天的三件事:发布、支持声明、合并
当天 16 时, 发帖介绍 Jais 3,称其为「阿拉伯语原生 agentic AI」,并写明:模型由 MBZUAI(Mohamed bin Zayed University of Artificial Intelligence)旗下的 Institute of Foundation Models(IFM)打造,合作方包括 Inception42 与 Cerebras Systems。同日发布的写明,Jais 3 与 Jais Speech 在 Hugging Face 上线时即带有 vLLM 和 SGLang 的部署支持。
约 4 小时后,vLLM 转引这条帖子宣布 Day-0 支持。发布了同一消息,措辞是「从第零天起」受支持,且「从今天起」即可用 vLLM 提供服务。
更早的动作发生在仓库里:这批配方对应的 PR 在 10 月 5 日就已提交,发布当天完成合并;每份配方把启动命令、客户端调用示例、推理与工具调用选项、硬件说明写进同一个 YAML 文件。
支持清单:六款模型、一条命令、两类解析器
把六份配方放在一起看,Day-0 支持的边界很具体:
| 模型 | 架构 | 上下文长度 | 配方标注最低显存 |
|---|---|---|---|
| Jais-3-0.9B | 稠密 | 131,072 tokens(128K) | 3 GB |
| Jais-3-3.7B | 稠密 | 524,288 tokens(512K) | 13 GB |
| Jais-3-7B | 稠密 | 524,288 tokens(512K) | 22 GB |
| Jais-3-32B | 稠密 | 524,288 tokens(512K) | 84 GB |
| Jais-3-MoVA-36B-A4B | MoE(混合专家)+ MoVA | 524,288 tokens(512K) | 90 GB |
| Jais-3-375B-A23B | MoE | 524,288 tokens(512K) | 911 GB |
以 375B 为例,给出的单节点命令是:
vllm serve IFM/Jais-3-375B-A23B \ --trust-remote-code \ --chat-template-content-format string \ --dtype bfloat16 \ --enable-expert-parallel \ --tensor-parallel-size 8 \ --reasoning-parser k2_horizon \ --enable-auto-tool-choice \ --tool-call-parser k2_horizon命令里有两类参数与 agentic 能力直接相关:--reasoning-parser k2_horizon 把模型的思考过程与回答分开输出,--enable-auto-tool-choice 与 --tool-call-parser k2_horizon 负责自动工具调用。配方还写明模型支持按请求切换思考强度:reasoning_effort 设为 high 是完整思考(默认),设为 low 则不思考。375B 一档把 NVIDIA H200 与 AMD MI355X 都标为已验证硬件;AMD 一档附有单独的 8 卡 gfx950 节点命令,需要启用 AITER。
K2-Horizon 打底,支持为什么能当天到位
Jais 3 建立在 IFM 的开源模型族 K2 Horizon 之上;据 介绍,这是 K2 Horizon 第一次适配到新语言。vLLM 这边的铺垫更早:9 月 3 日, 合入 K2-Horizon 的模型实现与配套的推理解析器、工具调用解析器;vLLM 文档的里列有 K2HorizonForCausalLM 架构,示例模型是 IFM/K2-Horizon-7B 与 IFM/K2-Horizon-375B。
Jais 3 沿用了这条架构线。以 375B 为例,其 的 architectures 字段写着 K2HorizonForCausalLM,配方命令调用的 k2_horizon 解析器,正是 9 月那次合并加入的组件。两件事相隔六周:K2-Horizon 支持在 9 月 3 日合入,Jais 3 与它的配方在 10 月 15 日同日出现。
Jais 3:能调用工具的阿拉伯语模型族
按技术博客的描述,六个模型共享同一套训练配方,训练重心是执行任务:接入 agent 框架后,它们能规划多步任务、调用工具与 MCP 服务器、运行终端命令、搜索网页,并直接读写阿拉伯语的 PDF、演示文稿和表格。据新闻稿,训练覆盖 Modern Standard Arabic(现代标准阿拉伯语)与从海湾到北非的地区方言。博客写明,模型与代码以 Apache 2.0 许可开放,权重之外还包含各训练阶段的检查点、评测代码与部分训练数据样本。
新闻稿给出了 IFM 与 Inception42 的自测结论:375B 在阿拉伯语理解上追平对比中最强的开源模型;在 agentic 任务上,IFM 博客自己的说法是,对比中「只有两个 Qwen3.8 模型的得分高于我们的 32B 和 375B」。新闻稿同时给出使用定位:面向超过 4 亿阿拉伯语使用者,以及中东和北非的医院、公司、政府机构;企业与政府机构可以调整模型、自行决定部署位置,以符合主权 AI 的要求。Inception42 应用科学高级副总裁 Larry Murray 在新闻稿中说:「Jais 3 让阿拉伯语 AI 在商业使用中更实用。更强的推理与指令遵循,加上工具调用,为多步 agentic 工作流打下了基础。」
部署门槛与尚未给出的数字
以 375B 为例,给出的参考部署是跨两节点的 16 张 H100(每张 80 GB);换用 H200 时,可以放在单节点 8 卡上运行。模型卡还要求 vLLM 0.30.0 及以上;显示,最新正式版是 10 月 5 日发布的 v0.31.0。另外,六份配方的命令都带 --trust-remote-code,部署时需要允许加载模型仓库自带的代码。
vLLM 的帖文与配方都没有给出吞吐、延迟或并发的数字;上述性能对比均来自 IFM 与 Inception42 的自测口径。IFM 的新闻稿说,面向日常工作流的 Jais agentic 平台即将推出。