大模型应用开发工程师(需出差)
1.5-3万元/月
更新 2025-12-21 14:44:30
浏览 702
职位详情
大模型算法
3-5年
岗位职责
1.大模型应用功能二次开发与参数优化:依托LangChain/LlamaIndex/Dify/Haystack/RAGFlow/Flowise等开源平台进行定制化开发及深度参数调整,实现专属文档解析模块、向量索引机制、Agent工具集成、Prompt构建体系、结果重排序模型、权限控制插件等功能适配。
2.大模型推理引擎部署与效能调优:结合pytorch、vllm、sglang等开源工具,根据客户实际硬件资源配置推理参数,实现高性能推理服务。
3.全流程私有化部署与项目交付:基于K8S完成大模型应用的定制化构建,并完成从环境准备到上线运行的端到端落地实施。
4.系统持续迭代与运维保障:承担系统上线后的版本更新、问题排查与技术支持工作,输出运维文档、故障处理流程、培训资料等交付物。
任职要求
1.计算机类相关专业本科及以上学历,具备2年以上AI工程实施或私有化项目交付经验。
2.熟练掌握以下至少两项开源框架,并有实际部署与二次开发经历:LangChain/LlamaIndex/Dify/Haystack/RAGFlow/FastGPT/Flowise
3.至少了解一种主流大模型推理方案,如hf原生/vllm/sglang,掌握其背后采用的推理并行技术原理。
4.精通Python与PyTorch,具备扎实的工程实现能力;能够使用C++/CUDA或Golang开发高效算子或配套服务组件。
5.掌握向量数据库(Milvus、Weaviate、PGVector、OpenSearch-k-NN)的高可用架构部署、性能优化及数据迁移策略;
6.具备强烈的技术探索意愿,良好的表达能力和协作意识,对新技术保持敏感度,能快速融入新场景;拥有出色的逻辑分析能力、沟通技巧、抗压素质与情绪管理能力。
1.大模型应用功能二次开发与参数优化:依托LangChain/LlamaIndex/Dify/Haystack/RAGFlow/Flowise等开源平台进行定制化开发及深度参数调整,实现专属文档解析模块、向量索引机制、Agent工具集成、Prompt构建体系、结果重排序模型、权限控制插件等功能适配。
2.大模型推理引擎部署与效能调优:结合pytorch、vllm、sglang等开源工具,根据客户实际硬件资源配置推理参数,实现高性能推理服务。
3.全流程私有化部署与项目交付:基于K8S完成大模型应用的定制化构建,并完成从环境准备到上线运行的端到端落地实施。
4.系统持续迭代与运维保障:承担系统上线后的版本更新、问题排查与技术支持工作,输出运维文档、故障处理流程、培训资料等交付物。
任职要求
1.计算机类相关专业本科及以上学历,具备2年以上AI工程实施或私有化项目交付经验。
2.熟练掌握以下至少两项开源框架,并有实际部署与二次开发经历:LangChain/LlamaIndex/Dify/Haystack/RAGFlow/FastGPT/Flowise
3.至少了解一种主流大模型推理方案,如hf原生/vllm/sglang,掌握其背后采用的推理并行技术原理。
4.精通Python与PyTorch,具备扎实的工程实现能力;能够使用C++/CUDA或Golang开发高效算子或配套服务组件。
5.掌握向量数据库(Milvus、Weaviate、PGVector、OpenSearch-k-NN)的高可用架构部署、性能优化及数据迁移策略;
6.具备强烈的技术探索意愿,良好的表达能力和协作意识,对新技术保持敏感度,能快速融入新场景;拥有出色的逻辑分析能力、沟通技巧、抗压素质与情绪管理能力。
相似职位
很抱歉,暂无相似职位!