首页 / FIRMUS METAL INTERNATIONAL PTE. LTD. / AI 工程师,推理方向

AI 工程师,推理方向

AI中高薪英文为主 $10,000 - $14,000

招聘方:FIRMUS METAL INTERNATIONAL PTE. LTD.

本页内容由系统自动翻译,可能存在不准确之处,一切以英文原文为准。

工作语言英文为主

岗位介绍

Firmus Technologies 招聘(高级)AI 工程师(推理方向),负责构建和优化自托管 AI 推理服务,为内部产品、外部客户及未来推理即服务提供可靠、安全、可扩展的高性能模型端点。该职位将建立模型上线、部署、性能基准测试与优化、可观测性、容量管理、安全及生命周期管理的工程基础,并参与 Model-to-Grid 产品与智能体应用路线图。

工作内容

  • 构建、运营并持续改进自托管 AI 推理服务。
  • 定义并实施标准模型上线工作流。
  • 提供安全可扩展的推理端点,支持多种 AI 应用模式。
  • 开发可复用的部署模板、API、SDK 及自助服务流程。
  • 使用主流推理框架和工具包,如 TensorRT-LLM、vLLM 等。
  • 通过量化、编译、批处理等技术优化模型服务性能。
  • 构建并验证可复用的推理配方。
  • 使用 NVFP4、FP8、INT8 等量化优化方法。
  • 设计大模型的分布式推理配置。
  • 与 Kubernetes 及调度器团队合作定义端点资源。
  • 为 Model-to-Grid 产品提供推理工作负载特征与基准。
  • 构建基准测试与资格认证工作流。
  • 测量并改进关键推理指标。
  • 建立自动化性能回归测试与发布资格认证。
  • 构建推理服务的运维可观测性。
  • 与智能体应用团队合作提供合适的自托管端点。
  • 向智能体系统暴露受治理的推理与性能信息。
  • 与产品、UX、DevOps 等团队合作确保推理服务可运维。

任职要求

  • 5 年以上软件工程经验,其中 3 年以上 AI 推理、模型服务、ML 系统、高性能计算、分布式系统或类似性能关键环境经验。
  • 有构建和优化自托管推理服务的经验。
  • 熟悉主流推理框架和工具包。
  • 掌握量化、编译、批处理等优化技术。
  • 有分布式推理配置经验。
  • 熟悉 Kubernetes 和调度器。
  • 有基准测试和性能分析经验。
  • 了解可观测性工具。

公司介绍

英语介绍Details
ABOUT FIRMUS AND SUSTAINABLE METAL CLOUD Firmus Technologies is a global leader tracking the energy problem in Artificial Intelligence (AI). Our mission is to create the world’s most energy-efficient AI infrastructure, combining cutting-edge technology with a steadfast commitment to sustainability. We provide customers access to energy savings via our large-scale GPU cloud service Sustainable Metal Cloud (SMC). Our infrastructure and cloud service is designed to transform the way AI is hosted, empowering organisations to scale their AI workloads efficiently while drastically cutting carbon emissions and operational costs. With locations across Southeast Asia and a growing presence globally, we are expanding our footprint of energy-efficient, sustainable AI factories that enable the responsible growth of artificial intelligence.
华语介绍详情
关于 FIRMUS 和可持续金属云 Firmus Technologies 是追踪人工智能(AI)能源问题的全球领导者。我们的使命是创建世界上最节能的 AI 基础设施,将尖端技术与对可持续发展的坚定承诺相结合。我们通过大规模 GPU 云服务 Sustainable Metal Cloud (SMC) 为客户提供节能服务。 我们的基础设施和云服务旨在改变 AI 托管方式,使组织能够高效扩展 AI 工作负载,同时大幅减少碳排放和运营成本。我们在东南亚设有多个地点,并在全球不断扩大业务,正在扩展节能、可持续的 AI 工厂,以促进人工智能的负责任增长。

公司介绍为英文翻译,如有不准,请联系我们。

本页信息整理自公开来源,发布于 2026-09-29。