行业类型 计算机软件
人员规模 其他
联系地址 郑东新区尚贤街32号自然资源大厦C座13-14层
工作职责 岗位职责: 1.基于GPU的推理框架的适配及研发 2.基于GPU的推理模型性能分析及优化 任职资格 岗位要求: 1.熟悉使用vllm、lmdeploy、sglang、tensorrt等大模型及cv类推理框架 2.熟悉使用GPU性能分析工具,nsight、ncomputer等 3.熟悉推理量化、剪枝、chunk prefill、speculative decoding等技术 4.有过大模型推理部署经验者优先 5.熟练使用C/C++、python编程 6.熟悉使用linux操作系统
招聘联系人: |
刘** |
招聘热线: |
137******** |
乘车路线: |
信息保密 |
联系地址: |
信息保密 |
分享到: