字节跳动强化AI治理：Seed事业部成立专项安全对齐部门

近日，字节跳动内部的一封邮件揭示了其在人工智能安全治理领域的最新动作。旗下专注于前沿AI探索的Seed事业部正式宣布，将成立一个名为“Seed Model-Alignment&Preparedness”的新部门。

组织架构与核心目标

据悉，该部门将由严林担任负责人，直接向Seed事业部总负责人吴永辉汇报。在人员构成上，原先的负责任AI团队以及部分来自Chat项目的团队成员，将整体转入这个新设立的部门。

这一调整的核心目的非常明确：集中优势资源，大幅加强对大模型安全与“对齐”问题的投入。所谓“对齐”，在AI领域特指确保人工智能系统的行为、目标与人类的意图、价值观以及安全边界保持一致。这是开发安全、可靠、可控的先进人工智能系统的关键前提。

聚焦前沿风险与能力建设

新部门的使命不仅限于基础安全。官方信息指出，其工作重点将放在两个关键维度：

  • 提升智能体模型的安全能力：随着AI Agent（智能体）技术的发展，模型需要具备更复杂的决策和交互能力，这对安全框架提出了更高要求。
  • 防范CBRN等前沿能力风险：CBRN代表化学、生物、放射性与核相关领域。这意味着新部门将重点关注并预防大模型在涉及这些高危领域的应用中可能引发的极端风险，这是对下一代AI能力进行未雨绸缪式安全布局的体现。

这一独立部门的设立，标志着字节跳动在推进AI技术创新的同时，正将模型安全与伦理治理提升至前所未有的战略高度，通过体系化的组织保障来应对日益复杂的AI安全挑战。