职位名称： 大模型并行算法和系统优化工程师

招聘单位： 合肥综合性国家科学中心人工智能研究院（安徽省人工智能实验室）信息计算平台

工作地点： 合肥市高新区中国科大先研院嵌入式楼

职位描述：

1、设计并开发高效的大规模并行算法，通过数据并行、模型并行、Pipeline并行、通信优化等基于 CUDA 的分布式训练框架大幅提升模型的训练速度与效率；

2、调研最新技术和性能调优工具，解决系统瓶颈，参与大模型训练和推理框架研发，面向内部提供混合并行、极致性能、易用性好的框架；

3、负责大模型的部署、调优，确保模型在各种软硬件架构上的功能、性能、稳定性。

任职要求：

1、硕士或博士学位，计算机科学、电子工程、应用数学或相关领域。

2、精通大模型算法、并行算法设计与实现，有丰富的MPI和OpenMP编程经验，能够优化在大规模集群上的算法性能。

3、精通C/C++编程，有 CUDA 开发经验，熟悉TensorRT/Triton/MLIR经验者优先。

4、熟练使用至少一种主流大模型计算框架，如TensorFlow、PyTorch、MXNet、Deepspeed、Megatron、Colossal-ai、Ray、MetaSeq、vLLM等，有相关定制或优化经验者优先。

5、在大规模模型训练和推理优化方面有工作经验者优先，熟悉分布式训练、数据并行化、模型压缩、增量推理等技术。

6、良好的沟通能力和团队合作精神，能够与跨部门团队合作解决复杂的技术问题。

加分项：

1、曾参与或主导过超大规模模型的训练和部署项目。

2、有优化和定制大规模机器学习平台的经验。

工资待遇：

1、年薪15-48万

2、多方位打造人才上升途径、成长空间大、可参与国家级项目研发、优秀者可依托平台参加职称申报和认定工作

3、稳定安心的工作环境，提供足额社保、公积金待遇

4、丰富的人才福利政策

合肥综合性国家科学中心人工智能研究院简介：

    合肥综合性国家科学中心人工智能研究院（以下简称“研究院”）于2019年12月31日由安徽省与中国科学院共同成立，是参照国家实验室体制机制建设运行的新型研发机构，为登记设立的安徽省事业单位法人，图书馆VIP是人工智能研究院的依托和管理单位。

研究院以实施变革式源头创新的“顶天”和推动技术与应用发展的“立地”思维，创新科研范式，开展系统性研究和有组织科研，统筹加强基础研究、应用基础研究和技术创新，构建有效的关键核心技术攻关、成果转化、示范应用机制，致力于开拓以类脑智能和计算智能为方向的科学研究、技术突破和产业应用的创新道路，引领人工智能学科前沿和产业应用方向。

研究院共引进人才349人（全职222人，双聘兼职127人），与中国科大等联合培养309名硕、博研究生；科学研究方面，组建23支全链条研究团队，立项科研项目130余项，各类项目及技术服务收入8000余万元，发表人工智能领域论文600余篇，申请知识产权310项，获教育部技术发明一等奖，安徽省科技进步奖一等奖，日内瓦国际发明展金奖、银奖；平台建设方面，建设实验动物、脑成像、生物细胞、信息计算4大平台，获批安徽省重点实验室，正在建设世界规模第一的全模态、多层次、多尺度的脑成像设施；合作转化方面，成立合肥人工智能产业联盟，新华三、喆塔联合实验室，孵化合肥锐世、合肥中聚源等8家公司，估值24亿元。

信息计算平台简介：

信息计算平台是人工智能研究院基础平台部下设的四大基础实验平台之一，是安徽省内唯一面向脑科学、类脑智能与大模型交叉创新的计算与存储平台。目前，信息计算平台由中国科大计算机学院/高性能计算中心李诚副教授负责，双聘资深研究员等高级人才3人，有8名工程师，与中国科大、合工大、安大开展硕博生培养工作。经过一期建设，平台建有1300平方米A类数据中心机房，拥有1056块GPU卡，峰值算力61P ops，存储容量14.4 PB，支撑6个十亿/百亿大模型的训练和推理验证工作，已成为人工智能研究院原创性科学成果的助推器，以及安徽省内智能计算资源的重要补充。过去三年年均提供300万小时的算力服务，完成了46万项各类计算任务，GPU使用率长期维持在80%以上。平台授权专利5项，软件著作权2项，发表论文4篇，在申请专利5项。参编人工智能算力网络、智慧建筑网络等团体标准3项，参与研究项目获安徽省2022年度科技进步奖一等奖。在安徽省的支持下，平台正在进行二期建设和升级改造。

联系方式：

王老师 inf_hr@iai.ustc.tsg211.com