算法infra开发工程师

"1、模型训练、推理框架开发:预训练、后训练、推理加

速的研究,包括但不限于模型训练、剪枝、TensorRT、

TensorRT-LLM推理优化等;

2、梳理&沉淀算法库:抽象算法接口,提高算法/预训练模

型的复用率,同时优化数据采集和模型训练的流程,提升效

率;

3、技术输出:定期分享训练和推理优化技术,赋能业务,

沉淀专利和论文"

"1、统招本科及以上学历 ，计算机科学 、人工智能或相关领域专业。五年及以上相关工作经验

2、扎实的机器技术基础，了解前沿的AI技术，有不错的工程实践经验优先；

3、熟悉TensorFlow/PyTorch模型的训练和部署，了解混合精度训练、分布式训练等训练加速方法优先；

4、了解模型推理加速的研究和技术进展，包括但不限于模型量化、剪枝、TensorRT推理优化等；

5、了解业界常用的大语言模型推理加速框架，如VLLM，TensorRT-LLM等；

6、在深度学习框架上不错的研究，非常熟悉Tensorflow/PyTorch，熟悉常用的分布式加速库包括但不限于：Megatron，DeepSpeed等，有较强的实践能力，在框架优化上做过研究的优先；

7、熟悉常用的深度学习代码库包括Hugginface/Transformers，Fairseq，Gluon NLP/CV，PaddlePaddle，Mindspore等，并且有丰富的开发经验。"