Hi 我是腾讯TEG的HR Sia 我正在为混元大模型团队寻找推理加速工程师(可base北京or深圳) 如果你感兴趣,可以联系我的微信SiaWang1002或者投递简历邮箱:siaawang@tencent.com 岗位JD: 混元大模型推理加速工程师 岗位职责 1.配合算法工程师,推动深度学习相关算法的落地,打造高吞吐、低延时的推理系统; 2.优化大模型推理性能,提升吞吐并控制成本; 3.优化大模型推理框架,提升框架易用性和可调试性。 岗位要求 1.熟练掌握 C/C++、Python语言,有计算机体系结构背景或软件开发背景,熟悉系统性能调优的方式; 2.具备基础的GPU编程能力,包括但不限于Cuda、OpenCL;熟悉至少一种GPU加速库,如cublas、cudnn、cutlass等; 3.有Tensorrt/FasterTransformer/Tensorrt-llm/vllm等深度学习推理框架的实际使用经验; 4.熟悉各类深度学习网络和算子底层实现细节,训练和推理模型调试、调优有实操经验优先; 5.熟悉CPU/GPU异构加速瓶颈分析方法,有服务器端 AI 芯片、GPU加速经验优先; 6.熟悉分布式推理常用加速方法,有超大模型分布式部署经验优先。
HR for Tencent TEG
微信:SiaWang1002
siaawang@tencent.com
-
腾讯
- 深圳 金地威新中心
-
20:53
(UTC -12:00) - https://www.zhihu.com/people/ge-zi-1-12-9
- https://maimai.cn/profile/detail?dstu=232922666
-
Joined
Nov 5, 2024
Popular repositories Loading
Something went wrong, please refresh the page to try again.
If the problem persists, check the GitHub status page or contact support.
If the problem persists, check the GitHub status page or contact support.