大模型蒸馏工程师
把 200B teacher 压成 13B student 还能保 90% 效果
职责
- 设计垂直场景的 teacher-student 蒸馏方案(数据 / loss / 评测)
- 维护 nuwa-skill / cangjie-skill 蒸馏平台
- 承接客户垂直场景模型蒸馏项目(13B / 32B / 70B 主流规格)
- 持续预训练 / SFT / DPO / RLHF pipeline 调优
要求
- 3+ 年大模型训练 / 微调经验
- 熟练 PyTorch + DeepSpeed / FSDP / Megatron-LM 之一
- 跑过完整 SFT / DPO / RLHF 至少一种
- 了解量化 / 蒸馏 / 模型合并(SLERP / DARE / TIES)
- 加分:有过实际垂直场景落地(非 paper)