美团(meituan)招聘【基座大模型北斗实习】大模型推理前沿研究
招聘职位：
【基座大模型北斗实习】大模型推理前沿研究 搜索同类职位
岗位职责：
简介：打造 world class，production ready 的大模型推理引擎，可根据个人背景和研究兴趣选择以下方向之一深入推进：
1、异构硬件高性能推理算子研究与开发。
2、Model System Co -design，充分利用硬件特性。
3、Scale up & scale out 分布式推理系统设计，高效可靠的推理调度体系。
4、投机推理算法研究与落地。
5、模型/KVCache 量化算法研究与算子开发。
任职要求：
1、具有扎实的编程功底，熟悉 C++/CUDA 编程最佳；
2、深入理解 Transformer/MoE/Attention 等 LLM 概念；
3、熟悉 RDMA，PD 分离等技术；
4、有一手的开源推理引擎使用/开发/调优经验最佳。
简介：打造 world class，production ready 的大模型推理引擎，可根据个人背景和研究兴趣选择以下方向之一深入推进：
1、异构硬件高性能推理算子研究与开发。
2、Model System Co -design，充分利用硬件特性。
3、Scale up & scale out 分布式推理系统设计，高效可靠的推理调度体系。
4、投机推理算法研究与落地。
5、模型/KVCache 量化算法研究与算子开发。
任职要求：
1、具有扎实的编程功底，熟悉 C++/CUDA 编程最佳；
2、深入理解 Transformer/MoE/Attention 等 LLM 概念；
3、熟悉 RDMA，PD 分离等技术；
4、有一手的开源推理引擎使用/开发/调优经验最佳。
免责声明：
此信息由美团官网 (查看来源)审核并发布，我们转载该信息，仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“美团官网”负责。我们作为信息转载平台，不构成求职建议，不涉及任何职业中介服务，不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎，自行判断并承担相应风险，求职请认准企业官方渠道！