СБЕР

Senior MLOps/DevOps Engineer (LLM) (Python, FastAPI)

Мы строим платформу для инференса и SFT open-source LLM. Используем продвинутые cutting-edge движки для инференса, много экспериментируем и боремся за каждую дополнительную единицу в Token throughput. Cейчас мы находимся в поиске MLOps-инж…

СБЕР

↑ Вакансия с автоподнятием
300k–500k ₽РоссияМоскваГибрид

Мы строим платформу для инференса и SFT open-source LLM. Используем продвинутые cutting-edge движки для инференса, много экспериментируем и боремся за каждую дополнительную единицу в Token throughput. Cейчас мы находимся в поиске MLOps-инженера, который вместе с нами продолжит настраивать и улучшать инфраструктуру инференса LLM-моделей и осуществлять вывод решений в прод контур.

Первый этап отбора на эту вакансию — общение с AI-рекрутером. После отклика вам на почту и в чат на платформе HeadHunter придет приглашение пройти первичное интервью с ГигаРекрутером в Telegram. Диалог займёт примерно 10 минут. Его задача — уточнить недостающие детали и ускорить рассмотрение вашей кандидатуры. ГигаРекрутер только начинает свой путь, поэтому просим относиться с пониманием. Ваш опыт и участие помогут сделать его удобным и полезным!

Вам предстоит:

  • Разрабатывать и оптимизировать инфраструктуру инференса LLM-моделей для минимальной задержки и высокой пропускной способности внутренних приложений и сервисов.
  • Обеспечивать масштабируемость и надежность LLM-serving инфраструктуры; выбирать и настраивать инструменты для инференса (sglang, vLLM, llama.cpp).
  • Разрабатывать механизмы разграничения доступов к API-сервисам моделей.
  • Строить систему observability и мониторинга LLM-инференса.
  • Собирать модели в сервисы и интерфейсы (FastAPI, Flask, Tornado, Streamlit, Chainlit и т.д.).

Мы ожидаем:

  • Опыт в аналогичной роли от 5 лет.
  • Опыт с Linux (сеть, storage, роли/пользователи, менеджмент процессов).
  • Уверенное владение Kubernetes (используем Istio Service Mesh).
  • Опыт построения высокопроизводительных LLM-сервисов (sglang, vLLM).
  • Опыт настройки высоконагруженных прокси-серверов (nginx, Envoy, HAProxy): load balancing, rate limiting, SSL termination, health checks.
  • Владение языками: Bash, Python, Groovy (Jenkins scripted).
  • Продвинутые навыки в CI/CD и оркестрации моделей.

Будет преимуществом:

  • Понимание распределенных систем и GPU-коммуникации (NCCL, MPI, RDMA, InfiniBand).
  • Знание служебных компонентов LLM-пайплайна: токенизаторы, KV-cache, контекстное окно.
  • Понимание внутренней архитектуры GPU (CUDA, cuDNN, Tensor Cores).
  • Опыт работы с векторными БД (Opensearch, Qdrant, FAISS, pgvector) для RAG и других задач.

Мы предлагаем:

  • Гибридный формат работы (2-3 дня в офисе).
  • Годовой бонус и ежегодный пересмотр.
  • Расширенный ДМС с первого дня + стоматологию и льготное страхование для семьи.
  • Корпоративный университет Сбера, внутреннюю образовательную платформу, участие в IT-конференциях.
  • Офис на Кутузовской с зонами отдыха и спортзалом.
  • Льготную ипотеку в Сбере, корпоративную пенсионную программу, подписку СберПрайм+, скидки от партнеров и сервисов группы компаний.

Похожие вакансии MLOps инженер

hh.ru
rutube

MLOps инженер (RUTUBE TECH)

rutube
Зарплата не указанаРоссияМоскваУдалёнка

Новая локация офиса:

В декабре переезжаем в новый офис в Сколково. Сейчас работаем на Соколе - пожалуйста, учитывайте это при отклике на вакансию.

Обязанности:

  • Разработка сервисов на python для интеграции моделей в прод;
  • Поддержка команды DS/MLE в интеграции моделей и использовании инструментов для ML;
  • Проводить тестирование SOTA-решений;
  • Настраивать мониторинг моделей;
  • Разбор инцидентов связанных с эксплуатацией МЛ-моделей в проде;
  • -Разработка и поддержка дагов Airflow.
Требования:
  • Хорошее знание Python (стандартные и ML библиотеки, умение применять ООП);
  • Понимание принципов построения моделей машинного обучения;
  • Опыт реализации микросервисов (Flask, Fastapi);
  • Знание SQL;
  • Опыт работы с платформами MLOps (ClearML, MLFlow);
  • Опыт работы c Docker и k8s;
  • Опыт работы с моделями глубинного обучения;
  • Опыт работы с внедрением нейросетевых ML-моделей CV и NLP;
  • Опыт оптимизации инференса нейросетей: onnx, tensorrt, triton server;
  • Опыт работы с векторными БД (milvus, qdrant);
  • Опыт работы с брокерами сообщений: Kafka, Rabbit.

Наш стек:
Python (pytorch), gitlab, airflow, Docker, Kubernetes, Postgres, ClickHouse, Trino, Airflow, Kafka, Milvus
Мощности:
Для экспериментов и в проде используем сервера с видеокартами в том числе A100, L40

Условия:

Офис, где приятно быть
— Уютное пространство с зонами коворкинга — выбирай, где работать

Здоровье под защитой
— ДМС (стоматология включена)
— Врач прямо в офисе

Вкусно и бесплатно
— Фреш-бар от Novikov Group
— Кофе, чай, фрукты, снэки — каждый день

Отдых без компромиссов
— Обеденные зоны с настолками и массажными креслами Yamaguchi

Оформление по ТК РФ
— Всё официально

Соц.сети

Senior Data Scientist (Machine Learning / Generative AI / MLOps)

Зарплата не указанаИспанияBarcelonaУдалёнка

Senior Data Scientist (Machine Learning / Generative AI / MLOps)
Location: Remote EU / Barcelona, Spain
Employment Type: B2B
Project Language: English

About ••••••••
•••••••• is an international software development company with 25+ years of experience delivering custom software solutions and dedicated engineering teams for clients worldwide. We work across Fintech, Healthcare, Enterprise Software, AI/ML, Cloud, and other technology-driven domains.

About the Project
We are looking for an experienced Senior Data Scientist to join an international AI-driven project focused on developing, deploying, and scaling advanced Machine Learning, Deep Learning, and Generative AI solutions.
The role covers the entire Machine Learning lifecycle, from data preparation and feature engineering to model development, production deployment, monitoring, and retraining.
You will work on scalable ML pipelines, LLM-powered applications, Retrieval-Augmented Generation (RAG) systems, and AI solutions integrated into enterprise platforms and digital products.
The ideal candidate combines strong hands-on expertise in Python, ML/DL, Generative AI, and MLOps with the ability to translate business challenges into reliable, production-ready AI solutions.

Responsibilities
— Design, develop, and validate advanced Machine Learning, Deep Learning, and Generative AI models.
— Manage the end-to-end ML lifecycle, including data preparation, feature engineering, model training, deployment, monitoring, and retraining.
— Develop scalable ML pipelines and integrate AI models into digital products, APIs, and enterprise platforms.
— Build and fine-tune LLM-based solutions, including AI copilots, RAG systems, and other Generative AI applications.
— Implement and optimize MLOps practices to support reliable model deployment and scalability.
— Monitor model performance, maintain model quality, and continuously improve AI solutions.
— Ensure AI governance, explainability, fairness, and Responsible AI principles.
— Collaborate with technical teams and business stakeholders to translate complex requirements into practical AI solutions.

Requirements
— Strong professional experience in Data Science, Machine Learning, and AI projects.
— Solid expertise in Machine Learning, Deep Learning, Generative AI, LLMs, and MLOps.
— Excellent Python programming skills.
— Hands-on experience with frameworks and tools such as TensorFlow, PyTorch, scikit-learn, Hugging Face, and/or MLflow.
— Proven experience deploying and scaling ML models in production environments.
— Practical knowledge of CI/CD, model monitoring, ML pipelines, and automated retraining.
— Experience developing LLM applications, RAG systems, and prompt engineering solutions.
— Understanding of AI governance, model explainability, fairness, and Responsible AI.
— Ability to translate complex business requirements into scalable technical AI solutions.
— Strong communication and collaboration skills when working with cross-functional teams and stakeholders.
— Very good English communication skills.

hh.ru
СБЕР

Junior MLOps-инженер (AI HUB Finance)

СБЕР
Зарплата не указанаРоссияМоскваОфис

Команда AI-Hub Блока Финансы создает и поддерживает платформу для разработки, хранения и исполнения ML-моделей и AI-агентов. Мы обеспечиваем централизованные API для взаимодействия с моделями и инструменты разработки, соответствующие требованиям архитектуры и кибербезопасности Сбера.

В связи с развитием направления онлайн обработки данных, мы ищем специалиста, который возьмет на себя развитие инфраструктуры для эффективного исполнения моделей в облачной среде.

Обязанности

  • разработка и поддержка конвейеров автоматизации для развёртывания ML-моделей (CI/CD)
  • создание инструментов самообслуживания для вывода моделей в продакшн
  • настройка и поддержка Helm-чартов, Kubernetes-манифестов и систем балансировки нагрузки
  • подключение ML-сервисов с корпоративной инфраструктурой (Kafka, базы данных, системы авторизации)
  • написание скриптов для автоматизации рутинных операций (Groovy, Python)
  • обеспечение работоспособности тестовых стендов

Требования

  • базовые знания Python и SQL
  • понимание основ контейнеризации (Docker)
  • базовое понимание CI/CD процессов
  • начальный опыт работы с Kubernetes и Helm
  • понимание основ MLOps (вывод ML-моделей в продакшн)
  • опыт работы с Git и практиками version control
  • базовые знания Linux и скриптовых языков (Groovy, Bash)
  • понимание основ работы с базами данных (PostgreSQL, Redis)

Условия

  • срочный ТД на 1 год (с возможностью пролонгации)
  • комфортный современный офис: м. Ленинский пр-т, ул. Вавилова, 19
  • ежегодный пересмотр зарплаты и годовая премия
  • уникальная система обучения Сбера для профессионального и карьерного развития
  • расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
  • подписка Прайм с возможностью совместного использования на трёх близких, скидки на продукты компаний-партнеров
  • вознаграждение за рекомендацию друзей в команду Сбера.

HireSeeker собирает вакансии со всех площадок и присылает только релевантные. Бесплатно.