大模型开发工程师(J16596)

1. 01

   负责模型部署与运行性能优化：在本地或云端环境中配置大模型，搭建推理服务接口，并持续进行性能调优。

2. 02

   负责开源大模型的微调与训练：使用业务数据对模型进行微调，并应用LoRA、P-Tuning、Prompt微调等轻量化训练技术，以适应特定应用场景。

3. 03

   主导大模型推理部署的全链路优化：包括模型压缩（量化、剪枝）、动态批处理、KV Cache优化等，确保模型在生产环境中稳定高效运行。

4. 04

   构建并管理高质量的训练数据：负责数据的收集、清洗、格式化及标注工作，为模型训练提供可靠的数据支持。

5. 05

   跟踪技术前沿并进行新技术预研：关注开源社区动态，评估并引入新技术、新方法，为产品方向提供建设性意见。

6. 06

   模型效果评估与持续迭代：构建评估体系，收集反馈，不断改进微调策略和模型输出质量。

学历要求： 计算机科学、人工智能等相关专业，硕士及以上学历 专业要求：

1. 01

   具备大模型相关理论及专业知识。

2. 02

   精通PyTorch等主流深度学习框架，熟悉DeepSpeed、Megatron-LM等大规模模型训练工具，并掌握Transformer架构及Flash Attention等核心技术栈。

3. 03

   拥有大模型的训练、微调、部署项目经验，熟练掌握多种微调技术和模型优化手段。

4. 04

   熟悉Docker、K8s等容器化技术，具备CUDA/TPU编程基础，能够完成模型的服务化部署和底层性能调优。

5. 05

   熟悉数据清洗和处理流程，具备使用Python等工具构建高质量数据集的能力。

6. 06

   对技术有热情，具备良好的问题解决能力、团队合作意识和沟通能力，能快速响应业务需求。 语言要求：英文文献阅读能力