杭州先进编译科技有限公司招聘大模型推理工程师
招聘职位：
大模型推理工程师 搜索同类职位工作职责:1、负责大模型推理引擎相关项目的推进与交付，包括推理框架在多硬件平台上的适配移植、多模型架构的验证接入，以及不同业务场景下的深度性能调优，持续提升推理服务的吞吐与效率;2、参与推理引擎相关产品的架构设计与工程化落地，面向多模型、多场景、多硬件平台需求完成定制化适配，保障推理服务的稳定性与性能指标;跟踪大模型推理领域的前沿技术动态，推动新优化方案在项目中的验证与应用,产出相关技术文档与性能测试报告。 任职要求:1、计算机相关专业研究生以上学历，具有大模型推理引擎相关技术工作经验者优先;2、熟悉vllm sglang等主流推理框架，核心技术以及通用优化策略3、最好接触过国产芯片有分布式部署以及性能调优经验。
公司介绍
- 公司名称
- 杭州先进编译科技有限公司
- 所属行业
- 计算机软件
- 公司性质
- 其他
- 公司规模
- 50-99人
- 公司地址
- 浙江省杭州市
免责声明：
此信息由国家大学生就业服务平台 (查看来源)审核并发布，我们转载该信息，仅出于传递更多就业招聘资讯、促进大学生及广大求职者就业之目的。该招聘职位信息的真实性、准确性、时效性及合法性均由原始发布方“国家大学生就业服务平台”负责。我们作为信息转载平台，不构成求职建议，不涉及任何职业中介服务，不对其内容承担任何形式的保证责任。请用户在使用转载信息时保持审慎，自行判断并承担相应风险，求职请认准企业官方渠道！