AREX Feed Article
字节跳动 Seed 宣布成立对齐与准备团队:全球招聘 10 名研究者,称算力与资源比肩前沿模型团队
据,字节跳动 AI 研究部门 Seed 宣布成立 Alignment & Preparedness(对齐与准备)团队,启动全球招聘,计划招募 10 名研究者,岗位分布在北京、上海和美国加州圣何塞。Seed 称,将为这支新团队提供与前沿模型团队相当的算力与研究资源。
图片来源: 转载这篇路透通稿时所配的文章主图。
招聘帖:Seed 把安全定位为长期投入
这份招聘帖于周三出现在 Seed 的官方微信账号上。路透报道称,Seed 将这次组建定位为对其能力日益增强的模型在 AI 安全上的长期投入。帖中写道:「随着模型能力提升,安全与对齐不再是单纯的风险防护,而是决定模型能否规模化部署的核心能力。」
研究范围:从各阶段安全训练到 Agent 测试环境
按路透列出的方向,这支团队的工作横跨模型的开发与部署环节:覆盖模型开发各阶段的安全训练、针对漏洞的自动化测试、监测并解释模型行为的工具、AI Agent(智能体)测试环境,以及面向新兴风险的准备。Seed 还表示将寻求独立测试,与高校和研究机构合作,把安全研究应用到模型训练、评估与部署的各个环节。
路透在报道中解释,对齐(alignment)指的是确保先进 AI 系统的行为符合人类目标与安全要求,尤其是在执行复杂的多步任务时。
澎湃称「中国首家」,路透称「罕见披露」
官方背景的《澎湃新闻》(The Paper)周二刊文称,Seed 是第一个设立独立安全与对齐部门的中国前沿 AI 实验室。这一「首家」的判断出自澎湃的报道,路透在转述时注明了来源。路透自己的定性是:这是中国主要 AI 开发商对专门聚焦前沿模型安全、对齐与新兴风险准备工作的罕见公开披露。
时点:Agent 安全审视升温,中美护栏讨论进行中
路透指出,这轮招聘恰逢中美两国对 AI Agent 安全的审视升温,尤其是在开发者赋予 Agent 自主访问互联网能力的情况下。另一层背景是,两国正就更广泛的 AI 护栏、安全风险以及重大 AI 事件的沟通渠道展开讨论,与此同时双方仍在竞争先进 AI 领域的领导地位。
哪些已经发生,哪些还只是承诺
目前能核对的是公告本身:Seed 宣布团队成立并启动招聘,岗位数量、工作地点与研究方向都有明确表述;算力与研究资源的投入水平出自公司口径;《澎湃新闻》的「中国首家」是这家媒体的判断;路透的报道未提及团队负责人与预算规模。至于 Seed 表示将寻求的独立测试,报道没有说明由谁执行、如何执行——它目前是一项计划,不是已经建立的机制。