北京百川智能科技有限公司招聘AIInfra工程师-推理方向
招聘职位：
AIInfra工程师-推理方向 搜索同类职位职位描述1、 参与大模型推理引擎与高并发在线服务的研发、部署与极致性能优化，支撑百万级 QPS 的稳定服务； 2、研究并落地量化、蒸馏、稀疏化、投机解码、KV Cache 管理等推理优化技术； 3、深度分析算子、计算、通信与显存瓶颈，持续优化吞吐、首 Token 时延、端到端时延、显存占用与单位 Token 服务成本； 4、开发高性能 CUDA 算子与推理内核，适配新一代硬件架构，探索非 Transformer 模型的高效推理方案；5、建设弹性扩缩容、流量调度、故障自愈与全链路可观测体系，保障线上推理服务的高性能、高质量与高可用性。职位要求1、 面向毕业时间为 2025 年至 2027 年 的应届生，计算机、软件工程等相关专业，硕士及以上学历；
2、扎实的计算机体系结构、并行计算与操作系统基础，精通 C++/Python，熟悉 CUDA 编程； 3、深入理解大模型推理原理，至少使用或研究过 vLLM、SGLang、TensorRT-LLM 等主流推理框架中的一种； 4、具备优秀的性能分析与工程实现能力，能系统性地定位并解决复杂性能瓶颈； 5、对高性能计算、GPU 优化或推理系统有强烈热情，追求极致性能与工程质量。 加分项： 1、有高性能算子开发、编译器（TVM/MLIR）、GPU 架构优化或推理系统项目经验； 2、熟悉模型压缩技术（量化/蒸馏/剪枝），有实际部署与精度恢复经验； 3、有高并发在线服务、负载均衡、弹性调度或分布式系统开发经验； 4、在 MLSys/PPoPP 等系统顶会发表过论文，或在主流开源推理框架中有核心贡献。
此信息由复旦大学 (查看来源)审核并发布，我们转载该信息，仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“复旦大学”负责。我们作为信息转载平台，不构成求职建议，不涉及任何职业中介服务，不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎，自行判断并承担相应风险，求职请认准企业官方渠道！