AI 推理优化实习生

参与 AI 编译器与高性能算子开发，重点围绕 Triton、CUDA、GPU Kernel 优化等方向开展工作。

使用 Triton 开发和优化 GEMM、Attention、Softmax、LayerNorm、RMSNorm、MoE 等深度学习算子。

分析 GPU 上计算、访存、并行度和数据布局对性能的影响，针对不同 GPU 架构进行性能调优。

参与 Triton Compiler 编译流程分析与优化，包括 TTIR、TTGIR、LLVM IR / PTX 等中间表示及 lowering 流程。

结合实际大模型推理和训练场景，对算子进行 tiling、fusion、vectorization、memory layout、shared memory / register 使用等优化。

参与 AI 编译器相关性能分析工具和 benchmark 建设，对 kernel 性能进行 profiling、瓶颈定位和优化。

跟踪 Triton、MLIR、LLVM、CUDA、PyTorch Inductor 等 AI 编译器和 GPU 软件栈的最新技术进展。

计算机、电子工程、微电子、软件工程、人工智能等相关专业，本科及以上学历在读。

熟悉 Python，具备一定 C/C++ 编程能力。

对 GPU 架构和并行计算有基本理解，包括： * SM / Warp / Thread * Register / Shared Memory / L2 / HBM * Memory Coalescing * Occupancy * Tensor Core

熟悉 CUDA、Triton 或其他 GPU 编程框架中的至少一种。

了解深度学习常见算子，例如 GEMM、Attention、Softmax、LayerNorm 等。

对编译器基本原理有一定了解，包括 IR、SSA、数据流分析、代码生成等概念。

具备较强的学习能力和工程实践能力，能够阅读英文技术文档和开源代码。 加分项

有 Triton Kernel 开发或优化经验。

熟悉 Triton Compiler 源码，了解： * TTIR * TTGIR * Layout Encoding * Triton GPU Dialect * LLVM / PTX CodeGen

熟悉 MLIR、LLVM 或其他编译器基础设施。

有 CUDA Kernel 性能优化经验，熟悉 Nsight Compute / Nsight Systems 等 profiling 工具。

熟悉 PyTorch 2.x、TorchInductor、TorchDynamo、AOTAutograd 等编译栈。

有 FlashAttention、PagedAttention、MoE、GEMM 等高性能算子实现经验。

对 NVIDIA GPU 架构如 Ampere、Hopper、Blackwell 有一定理解。

有 AI Compiler、HPC、GPU Kernel、体系结构相关科研或开源项目经验。