岗位简介:
AI 工程师(边缘部署与加速方向)负责把 AI 模型部署到智能原生科学仪器的边缘硬件上,让模型在仪器端又快又稳地运行,追求极致性能。你主要做软件部署适配和模型性能优化,并与硬件团队(包括 FPGA 工程师)紧密合作。
你将负责:
1. 把训练好的模型部署到仪器端的边缘硬件上,满足实时性、低延迟和稳定性的要求。
2. 做模型优化与加速:量化、剪枝、算子优化、推理引擎优化、内存和带宽优化等,把性能做到极致。
3. 针对不同的边缘算力平台(如 GPU、NPU、嵌入式 SoC 等)做适配和性能调优,并建立性能评测基准。
4. 与硬件团队(包括 FPGA 工程师)紧密合作,共同设计软硬件协同的加速方案,决定模型的哪些部分放在哪种硬件上。
5. 与模型方向的同事配合:让模型在设计和训练阶段,就考虑到部署的限制,尽量减少精度损失。
6. 与 Agent 方向和仪器软件团队对接,提供稳定的推理接口,并做好模型的版本管理和现场升级。
我们希望你具备:
1. 边缘部署经验:有在边缘硬件或嵌入式算力平台上部署 AI 模型的扎实经验,理解不同硬件(GPU、NPU、嵌入式 SoC 等)的算力、内存和带宽特点。
2. 模型优化与加速:熟悉量化、剪枝、蒸馏、算子优化等方法,熟悉主流推理框架或引擎(如 TensorRT、ONNX Runtime 等),能在控制精度损失的同时,把速度和资源占用做到极致。
3. 追求极致性能:会做性能分析,能找到瓶颈并解决,对延迟、吞吐、功耗有清楚的认识。
4. 一流的工程能力:熟练使用 C++ 和 Python,代码质量高,能把优化方案做成稳定、可维护的产品代码。
5. 理解深度学习模型(视觉模型、多模态模型),能和算法同事顺畅沟通。
6. 本科及以上学历,计算机、电子、自动化、通信等相关专业。
7. 沟通清晰,愿意和硬件、算法、仪器软件团队紧密合作。
工作年限不设硬性要求,我们更看重你做过什么、做得多深。
加分项:
• 了解 FPGA,或有在 FPGA 上做 AI 加速的经验。我们的硬件团队有 FPGA 工程师,你会和他们紧密合作。
• 有模型软硬件协同设计的经验。
• 有实时系统或低延迟系统的开发经验。
• 有科学仪器、工业设备、医疗设备等场景的部署经验。
• 有推理引擎或高性能计算相关的开源项目。
你将得到:
• 让模型在真实仪器上跑出极致性能,直接决定产品体验。
• 与硬件团队软硬协同,一起做完整的加速方案。
• 参与定义下一代智能原生科学仪器的端侧 AI 能力。

