AREX Feed Article
Perplexity 发布 pplx-embed-v2-late:9B 与 0.6B 共享嵌入空间,模型已在 Hugging Face 公开
10 月 7 日,Perplexity 在 发布 pplx-embed-v2-late,两个晚期交互(late-interaction)嵌入模型,规格分别为 9B 和 0.6B。Perplexity 称它们能在同一个嵌入空间里检索文本、图像和页面,并支持跨模型查询。两个模型已在 Hugging Face 公开。
Perplexity 给出的具体提升是跨模型查询:用 9B 模型建立的索引,可以直接接收 0.6B 模型发出的查询。按 ,这会把 ViDoRe v3 的分数从 62.3% 提高到 63.5%,查询成本没有增加。
两个规格,一套嵌入空间
Perplexity 说,两个规格都由同一个 180 亿参数的教师模型逐 token(词元)蒸馏而来,因此共用一套嵌入空间:0.6B 版本生成的查询向量与 9B 版本生成的文档向量可以直接比对。Perplexity 称两者都达到前沿(frontier)性能。
Hugging Face 上的模型卡(、)把 pplx-embed-v2-late 定义为「多模态晚期交互(ColBERT 路线)检索器」:基于 Qwen3.5、采用双向注意力,为每个 token 输出一个 128 维向量,用 MaxSim 计分。模型卡列出的激活参数,0.6B 版为 340M,9B 版为 7.4B;ViDoRe v3 图像子集的 nDCG@10 标为 62.3% 与 65.2%,Markdown 子集为 61.2% 与 64.7%。
两个仓库都以 MIT 许可公开、未设访问限制。它们与 9 月 30 日预览的 同属 ,集合描述称这是「第二组文本嵌入模型」。再往前,Perplexity 今年 2 月推出过 。
从一个文档一个向量,到每个 token 一个向量
稠密嵌入模型把每个文档压成一个向量。Perplexity 在中说,页面越长、越视觉化,这种压缩丢掉的细节就越多。pplx-embed-v2-late 改为给每个 token 保留一个 128 维向量,再用 MaxSim 打分:查询里的每个 token 去文档里找最接近的 token,把这些匹配分相加。
发布图的示例画了一次这样的匹配:查询词 quick、pasta、recipe 分别在最接近的文档 token 上得到 0.78、0.88、0.70,MaxSim 总分为 2.36。
PDF、幻灯片和扫描件不必先做 OCR
帖文的讲多模态。模型直接嵌入图像与渲染后的页面,所以 PDF、幻灯片和扫描件不需要先跑 OCR(光学字符识别),抽取文本时会丢掉的表格、图表和版面信息被保留下来。
模型卡给出接入条件:需要 sentence-transformers ≥ 6.0.0 和 transformers ≥ 5.4.0,通过 MultiVectorEncoder 调用;文本与图像要分开编码,不支持两者混合的输入;如果走 PyLate,工具会把查询/文档标记放在第二个位置,而模型要求放在最前面。
四组基准数字,均为单方口径
ViDoRe v3 测视觉文档检索。发布图给出 8 项任务的平均 nDCG@10:0.6B 查询配 0.6B 索引为 62.3%,0.6B 查询配 9B 索引为 63.5%,纯 9B 组合为 65.2%。跨模型组合拿到的是中间值。
面向大规模网页检索:约 7 万条来自生产的查询,对 1.9 亿份网页文档,9B 与 0.6B 的 Recall@1000 分别为 74.8% 和 73.6%,高于 nemotron-embed-8b 的 69.3%。这个基准由 Perplexity 在 推出。
一项,由 GPT-OSS-120B 驱动的智能体(agent)接入 9B 模型后,正确回答了 64.0% 的 BrowseComp+ 问题,比次优的 ColBERT 模型高 4.9 个百分点,搜索次数少于所有基线。 的测试集是 800 份 PDF 上的 500 道题,成绩 92.4%,Perplexity 称其为检索器中的最高分。
帖文与模型卡把更多基准与细节指向一篇,第三方可以基于公开权重自行复测。
蒸馏自 18B 教师,索引体积的追问
模型卡记录了训练方式:两个模型都蒸馏自内部一个 18B 的 ColBERT 教师模型,采用 LEAF 风格的 token 级目标;0.6B 版本全量微调,9B 版本只全量微调了最后 8 层 Transformer,其余层与视觉编码器用 LoRA(低秩适配)适配。
发布之后,索引体积引来多条追问。Alek 在里算了一笔账:每个 token 128 维,一份 1,000 个 token 的页面就是 128,000 个数值,而常见的稠密单向量只有 1,024 个,压缩之前索引大约相差 125 倍;他问 Perplexity 的存储方案是二值量化还是 token 池化。另一位用户 NusoMaus 问的是:每页 PDF 的索引比单向量稠密模型大多少,生产环境是否建议压缩。
按 token 存储向量,索引体积随文档长度增长。Alek 在回复最后写道:「这某种程度上决定了它能否撑过演示规模。」