群核科技
推理优化工程师（扩散模型/生成式AI方向）
RESPONSIBILITIES
岗位职责
针对扩散模型（如图像生成、视频生成、3D生成）的高性能推理引擎，支持多步采样、动态分辨率、多种调度算法等特性；
借鉴PagedAttention等思想，优化扩散模型中的KV Cache（或中间状态）管理，减少显存碎片和冗余存储。探索步数压缩（如LCM/LoRA）、模型剪枝等技术与推理的协同设计；
应用INT8/FP8/INT4等量化技术，在最小化画质损失前提下大幅提升推理速度；
基于K8S构建弹性的推理服务集群，实现动态批处理、自动扩缩容，提升GPU平均利用率。设计优雅的请求排队和负载均衡策略；
跟踪业界最新的推理加速技术，评估并引入新技术以持续优化生产环境成本结构和性能天花板
REQUIREMENTS
任职要求
精通Python和C++，具备优秀的代码优化和工程实现能力；
深入理解推理的全流程，熟悉常见优化技术。有丰富的ONNX/TensorRT/vLLM/TGI等推理引擎使用或二次开发经验；
对扩散模型的原理（前向/反向过程、去噪网络结构）有清晰认识，熟悉HuggingFace Diffusers库，并了解其性能瓶颈所在；
熟悉Docker/K8S等云原生技术，有模型服务的部署和调优经验，理解服务化指标（延迟、吞吐、SLO）
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理，最终申请以企业官方页面为准。