字节跳动单独设立大模型安全部门 把控智能体风险

【】 10月13日,从 字节跳动 处了解到,字节AI模型部门Seed内部通知称,将成立一个新的部门,负责把控大模型的安全风险问题,该部门负责人直接汇报给字节跳动大模型“一号位” 吴永辉。新部门的名称为“Seed Model - Alignment &Preparedness”,由严林负责。所谓“对齐”,即指让AI遵守人类真正的意图,在确保安全的前提下行动。严林是字节跳动Seed核心高管之一,近年负责 豆包 大模型对齐(Alignment)方向。从产品角度,这会体现在豆包这类聊天机器人(chatbot)的输出内容合规性、问答以及价值观层面的质量上。
