蚂蚁集团招聘研究型实习(大模型推理优化), 岗位职责包含发表顶会顶刊

轻松参会 · 公众号 · · 2024-03-21 22:12

正文

大模型推理优化研究型实习生
坐标：北京
岗位职责

面向蚂蚁集团大模型服务规模化部署需求，研发推理部署加速算法，解决前沿技术问题，发表顶级会议和期刊论文。该职位考虑从算法优化、软件优化、服务优化等不同角度，实现大模型低成本、高效率部署，支撑蚂蚁集团海量业务调用需求。具体研究领域包括但不限于：大模型量化压缩、蒸馏、剪枝、轻量化模型架构以及低秩分解算法、推理加速框架、服务负载均衡调度等。

岗位要求

1. 欢迎发表过相关高水平学术论文的同学参与研究型实习。要求全职实习不少于3个月；

2. 目前正在攻读计算机科学或相关STEM领域的学士，硕士或博士学位；

3. 具有一种或多种通用编程语言的经验，包括但不限于：Python、Java、C/C++、JavaScript或Go；

4. 具有上述研究领域的相关经验，包括行业经验或作为参与实验室研究。

加分项

1. 对主流LLM推理引擎，如vllm、TensorRT-LLM和TGI等, 的源码有所了解；

2. 在自学、问题分析和解决方面表现出色；

3. 在国际会议上或核心期刊发表一份或多份出版物或论文；

4. 至少3个月的全职工作。

投递方式

[email protected]

邮件标题和简历标明：姓名-岗位名称-AI求职