【快Star-X】大模型推理/训练优化工程师

岗位职责： 1、参与大模型推理/训练优化。通过研发业界领先的AICompiler技术，支撑搜推场景在GPU上的训练计算性能优化；支持大模型推理优化技术在异构硬件上的落地； 2、参与各种大模型推理所需的功能性开发任务；相关编译优化功能开发，以图优化、算子融合、GPU高性能算子开发及自动Codegen等技术手段不断推高在不同卡型上的计算性能极限； 3、参与支持日常的大模型推理服务部署，参与内部日常提效工具的研发。 岗位要求： 1、硕士及以上学历，计算机、电子、自动化等专业优先； 2、熟悉python/C++，熟悉linux使用，有扎实的算法与数据结构基础； 3、有较强的自驱力和学习力，有严谨的科研思维，沟通良好擅长与人合作； 4、了解AIinfra整体技术栈，有大模型相关训练或推理优化实战经验；有vLLM、TensorRT-LLM、MLC-LLM、Tensorflow、PyTorch等框架之一的实践经验。 加分项： 1、熟悉CUDA或ROCM，熟悉NsightSystem/NsightCompute工具的使用，有GPU或ASIC高性能算子开发经验； 2、熟悉深度学习编译优化或异构硬件，有XLA/TVM/MLIR开发、优化经验，熟悉pass编写或代码生成原理和实践；或有传统编译器开发经验，熟悉LLVM原理和使用； 3、有相关领域顶会paper发表； 4、有二次开发能力或开源社区贡献经历。