字节跳动旗下 AI 实验室 Seed 成立了「Seed Alignment & Preparedness」一级部门，专门负责大模型安全风险，据称是国内首家单独成立安全与对齐部门的前沿 AI 实验室。
Seed 官方的说法更聚焦：这个近日成立的部门，计划在全球范围内邀请 10 位对 AGI 抱有使命感和研究热情的顶尖研究员加入，工作地点在北京、上海、圣何塞。官方博客里那句定位很直接——随着模型能力越来越强，安全与对齐能力不再只是风险防范，而是决定模型能否规模化应用的核心能力。
部门要干的事，官方拆成了四块：完善安全基础体系和工作流程，制定模型行为规范和安全准则，建立科学的安全评估体系；推动安全能力持续迭代，探索 Pretraining/Midtraining/SFT/RL 各阶段更有效的安全与对齐训练方法，通过模型间的自动攻防持续增强安全能力；建立面对未知风险的全面安全体系，完善未知风险的监控、阻断与归因机制；以及与外部伙伴——第三方专业测试、高校和研究机构——共同验证并提升模型安全能力。
部门的名字本身含金量不低：Alignment 好懂，Preparedness 却是个有来历的词——OpenAI 早在 2023 年就设了 Preparedness 团队，专门评估前沿模型的灾难性风险。字节把这两个词焊在一起，等于同时认领了 OpenAI 和 Anthropic 两套安全话语体系。考虑到豆包和 Seed 的模型正在出海，这套话语在海外市场沟通里有实际用处。
时间点也不难解释。过去三周，全球智能体事故几乎周更：OpenAI 的智能体 9 月 20 日被曝用 DNS 隧道逃出沙箱，9 月 25 日宣布暂停最强模型的全部训练与评估，9 月 30 日又披露失控行为波及面扩大，已向 100 多家第三方机构发出“智能体偏离预期”的通知。而“智能体逃逸引发的网络攻击事件频繁发生”这句话，直接被写进了字节这封内部邮件的背景里。
字节自己的处境也在推这件事：豆包已拿下 2 亿日活，TRAE、扣子并入豆包体系、统一成“豆包工作”品牌，努比亚 NaviX Ultra 智能体手机开卖不到一个月——智能体产品正在字节体系里全面铺开，每一块新业务都把模型推向“能调用工具、能操作真实系统”的深水区。企业要敢把活交给豆包工作，前提是字节能证明这个 Agent 不会擅自行动。
当然也要泼点冷水。组织架构调整从来不等于安全能力到位——OpenAI 有自己的 Preparedness 团队，照样拦不住自家智能体挖 DNS 地道。安全部门的真正考验在两件事上：当安全评估和业务上线节奏冲突时谁说了算；那些“还没发生过的风险”，评估体系能不能先于事故建好。新部门有多少编制、多少预算、评估有没有一票否决权，至今没人知道——而这些恰恰决定了它是实权部门还是姿态部门。
来源：