深圳市启创数智科技有限公司
AI Infra工程师
RESPONSIBILITIES
岗位职责
1.负责大模型推理侧的落地与优化，基于 vLLM、TensorRT-LLM、SGLang 等引擎完成模型部署、参数配置与版本管理；
2.推进模型量化与压缩（INT8/INT4、GPTQ/AWQ 等）和多卡并行方案落地，在保证效果的前提下压降显存、提升推理速度；
3.搭建性能测试与评估体系，围绕 TTFT/TPOT、吞吐、并发等指标做压测、瓶颈定位与调优，保障线上推理的稳定与高效；
4.适配与验证国产算力（昇腾、海光等）环境下的模型运行，排查兼容性与性能问题，支撑项目在国产化环境交付
REQUIREMENTS
任职要求
1. 2027 届应届生，硕士及以上学历，985/211 或双一流高校，人工智能、计算机、软件工程、数学、统计学等相关专业；
2. 理论基础扎实：懂 Transformer 架构和主流 LLM 的推理原理，能熟练用 Python/C++，熟悉 Linux 环境，会用 PyTorch；
3. 对预训练、微调、RLHF、推理优化等方向有过系统学习；若在 CUDA/GPU 编程、推理引擎（vLLM/TensorRT-LLM/SGLang）、模型量化、多卡并行里有过课程 / 项目 / 实习经历的同学优先；
4. 加分项：做过性能测试与调优（TTFT/TPOT、吞吐、并发），或参与过开源项目、算法竞赛，接触过昇腾 / 海光等国产芯片的同学优先
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理，最终申请以企业官方页面为准。