MLOps инженер — свежие вакансии

• Развивать и поддерживать платформу для запуска ML workloads.
• Администрировать и диагностировать проблемы в Kubernetes-кластере ML платформы.
• Автоматизировать рутинные задачи с помощью инструментов автоматизации - python, ansible и terraform.
• Поддерживать и развивать CI/CD-пайплайны и Helm чарты для ML сервисов.
• Выполнять клиентские заявки высокой сложности в Service Desk, ESMP, Jira.
• Настраивать мониторинг ML инфраструктуры - Prometheus, Grafana, Loki, Zabbix.
• Участвовать в проработке архитектуры будущих ML сервисов со стороны эксплуатации.
• Проводить плановые работы любого уровня сложности.
• Вести документацию в рамках зоны ответственности отдела.
• Вести аварии и составлять планы пост аварийных мер на ML платформе.

• Опыт администрирования Kubernetes кластеров от одного года.
• Понимание, как работают основные компоненты Kubernetes: kube-apiserver, scheduler, controller-manager, kubelet, kube-proxy, etcd, CoreDNS.
• Практический опыт диагностики проблем в Kubernetes: networking, scheduling, probes, ресурсы, storage, ingress, RBAC, CRD/operators.
• Опыт работы с Helm: написание, модификация, шаблонизация, отладка и проверка чартов.
• Опыт работы с системами автоматизации: Ansible и Terraform.
• Уверенное знание Linux на уровне администратора.
• Понимание сетей в Linux и Kubernetes: routing, iptables/nftables, IPVS, DNS, service discovery, network policies, K8S CNI Calico/Cilium.
• Опыт работы с CI/CD: желателен GitLab CI.
• Понимание Gitops подхода и цикла разработки приложения для k8s.
• Знание одного из языков программирования на среднем уровне: Python или Go.
• Опыт работы с системами мониторинга и логирования: Prometheus, Grafan, Loki, Zabbix или аналоги.
• Умение самостоятельно расследовать сложные технические проблемы, читать логи, метрики, события Kubernetes и исходники/документацию при необходимости.

Будет плюсом

• Опыт эксплуатации GPU-инфраструктуры в Kubernetes.
• Опыт работы с NVIDIA stack: GPU Operator, Network Operator, MIG, vGPU, NCCL.
• Опыт с ML serving/inference технологиями: NVIDIA Triton, vLLM, Transformers, SGLang, TensorRT-LLM.
• Опыт работы с KServe, Knative, Kubeflow.
• Опыт с service mesh/gateway-слоем в k8s: Istio, Envoy Gateway, Gateway API.
• Опыт с storage в Kubernetes: Ceph/Rook.
• Опыт работы с baremetal серверами и облаками.
• Понимание особенностей high-load inference workloads: long-running requests, streaming, autoscaling, GPU scheduling, лимиты ресурсов, latency, throughput.

Что мы предлагаем:

• Стабильный «белый» доход и полноценный соц. пакет;
• Гибкое начало дня и гибридный формат работы (обсуждаем индивидуально с каждым кандидатом);
• Корпоративный университет для внутреннего и внешнего профильного обучения;
• Отличные перспективы карьерного роста – горизонтального и вертикального.

А также для Вас:

• Программа ДМС с обслуживанием в лучших клиниках города;
• Корпоративные команды по футболу, волейболу, бегу, а также скидки на фитнес-абонементы;
• Эксклюзивная программа корпоративных привилегий и скидок Primezone;
• Корпоративная мобильная связь.

Работая вместе с нами, Вы сможете принять участие в амбициозных, крупных проектах, значимых для страны!

Мы - команда Disrupt в Сбере, часть блока ГенИИ. Отвечаем за все новые воплощения Гиги на рынках и работаем в формате фабрики гипотез: ищем перспективные сценарии, запускаем MVP, масштабируем лучшие продукты.

Ищем ML-инженера, который будет запускать в продакшен и ускорять большие языковые модели на инфраструктуре NVIDIA.

• Запускать и поддерживать распределённый инференс LLM на кластере GPU.

• Тюнить движки (vLLM, SGLang, TensorRT-LLM или аналоги) для максимальной скорости и утилизации железа.

• Снижать задержки генерации, повышать пропускную способность и эффективно работать с длинным контекстом в MoE-моделях.

• Применять квантизацию (FP8/INT8), speculative decoding и другие оптимизации без потери качества ответов.

• Находить узкие места по памяти (VRAM/HBM) и сети (NVLink/InfiniBand), устранять OOM и сбои узлов.

• Упаковывать сервисы в Kubernetes/Docker, настраивать автоскейлинг, выкаты и откаты.

• Строить мониторинг метрик вывода (задержки, токены/сек, стоимость за 1М токенов).

• Проводить нагрузочное тестирование и планировать мощности.

• От двух лет опыта в ML Engineering, MLOps или высоконагруженном бэкенде. Обязательно хотя бы один свой GPU-сервис, доведенный до продакшена.

• Уверенное владение Python и Linux. Знание Docker, Git, CI/CD и базовая работа с Kubernetes.

• Практический опыт запуска моделей на PyTorch под NVIDIA GPU.

• Опыт работы минимум с одним production-стеком для инференса (vLLM, Triton, TensorRT-LLM, SGLang, TGI или аналоги).

• Понимание того, как устроена память GPU, что такое mixed precision, батчинг, KV-кэш и параллелизм моделей.

• Умение замерять производительность, читать профилировщики (PyTorch Profiler, Nsight, DCGM) и находить баланс между скоростью, качеством ответов и стоимостью вывода.

• Базовое понимание распределенных систем: таймауты, повторы запросов, отказоустойчивость при падении узла и выкат без простоев.

Будет плюсом:

• Умение писать CUDA/Triton kernels, работать с NCCL и быстрой связкой узлов (NVLink/InfiniBand, GPUDirect/RDMA).

• Опыт запуска MoE-моделей с экспертным параллелизмом и очень длинным контекстом.

• Знакомство с KServe или Ray Serve; сбор метрик через Prometheus/Grafana, GPU Operator или DCGM Exporter.

• Навыки конвертации весов моделей, проведения quantization-aware evaluation и сравнения разных движков инференса.

• Базовый C++ или Go для написания быстрых компонентов control/data plane.

• комфортный современный офис рядом с м. Кутузовская

• ежегодный пересмотр зарплаты, годовая премия

• корпоративный спортзал и зоны отдыха

• система обучения для профессионального и карьерного развития

• расширенный полис ДМС с первого дня работы и страхование для семьи

• льготная программа ипотеки для сотрудников

• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров

• вознаграждение за рекомендацию друзей в команду Сбера.

ТРЕБУЕТСЯ СПЕЦИАЛИСТ С ОПЫТОМ УКАЗАННЫМ В ВАКАНСИИ

Обязательные технические требования (Hard Skills)

• Python на высоком уровне: написание чистого, оптимизированного кода, глубокое знание ООП и стандартов разработки. Уверенное владение базовым стеком (Pandas, NumPy, Scikit-learn).
• Опыт с Deep Learning фреймворками: уверенное практическое владение PyTorch (предпочтительно) или TensorFlow для проектирования и обучения нейросетей.
• Работа с данными и базами данных: отличный SQL (написание и оптимизация сложных запросов, агрегация данных, самостоятельный сбор и подготовка датасетов).
• Опыт работы с LLM / Generative AI: практический опыт интеграции больших языковых моделей через API (Claude, OpenAI) или развертывания open-source решений (Qwen, Llama). Понимание архитектуры Transformer, принципов Prompt Engineering и реализации подходов RAG.
• Инженерная база и Production: умение упаковывать разработанные модели в Docker-контейнеры и разворачивать их как стабильные API-сервисы (FastAPI / Flask). Базовое понимание работы брокеров сообщений (Kafka / RabbitMQ) для построения асинхронной архитектуры.
• Математический фундамент: четкое понимание теории вероятностей, математической статистики и линейной алгебры (необходимое для понимания внутренней логики работы алгоритмов и интерпретации результатов).
• Инфраструктурные инструменты: уверенная работа в среде Linux (Bash), Git, практический опыт распределения ресурсов на GPU-инстансах для эффективного обучения моделей.

2. Будет большим плюсом (Желательно)

• MLOps пайплайны: опыт построения и автоматизации MLOps-пайплайнов для управления жизненным циклом моделей (MLflow, ClearML или аналоги).
• Коммерческий опыт: наличие подтвержденного коммерческого опыта разработки в продуктовых IT-командах от 2 лет.

3. Мягкие навыки и продуктовое мышление (Soft Skills)

• Продуктовый подход: способность декомпозировать абстрактную бизнес-задачу или боль проекта на язык конкретных технических ML-гипотез.
• Самостоятельность и R&D: умение читать и разбирать актуальные профильные статьи (papers), быстро находить эффективные open-source решения и адаптировать их под задачи компании.

Мы строим платформу для инференса и SFT open-source LLM. Используем продвинутые cutting-edge движки для инференса, много экспериментируем и боремся за каждую дополнительную единицу в Token throughput. Cейчас мы находимся в поиске MLOps-инженера, который вместе с нами продолжит настраивать и улучшать инфраструктуру инференса LLM-моделей и осуществлять вывод решений в прод контур.

Первый этап отбора на эту вакансию — общение с AI-рекрутером. После отклика вам на почту и в чат на платформе HeadHunter придет приглашение пройти первичное интервью с ГигаРекрутером в Telegram. Диалог займёт примерно 10 минут. Его задача — уточнить недостающие детали и ускорить рассмотрение вашей кандидатуры. ГигаРекрутер только начинает свой путь, поэтому просим относиться с пониманием. Ваш опыт и участие помогут сделать его удобным и полезным!

Вам предстоит:

• Разрабатывать и оптимизировать инфраструктуру инференса LLM-моделей для минимальной задержки и высокой пропускной способности внутренних приложений и сервисов.
• Обеспечивать масштабируемость и надежность LLM-serving инфраструктуры; выбирать и настраивать инструменты для инференса (sglang, vLLM, llama.cpp).
• Разрабатывать механизмы разграничения доступов к API-сервисам моделей.
• Строить систему observability и мониторинга LLM-инференса.
• Собирать модели в сервисы и интерфейсы (FastAPI, Flask, Tornado, Streamlit, Chainlit и т.д.).

Мы ожидаем:

• Опыт в аналогичной роли от 5 лет.
• Опыт с Linux (сеть, storage, роли/пользователи, менеджмент процессов).
• Уверенное владение Kubernetes (используем Istio Service Mesh).
• Опыт построения высокопроизводительных LLM-сервисов (sglang, vLLM).
• Опыт настройки высоконагруженных прокси-серверов (nginx, Envoy, HAProxy): load balancing, rate limiting, SSL termination, health checks.
• Владение языками: Bash, Python, Groovy (Jenkins scripted).
• Продвинутые навыки в CI/CD и оркестрации моделей.

Будет преимуществом:

• Понимание распределенных систем и GPU-коммуникации (NCCL, MPI, RDMA, InfiniBand).
• Знание служебных компонентов LLM-пайплайна: токенизаторы, KV-cache, контекстное окно.
• Понимание внутренней архитектуры GPU (CUDA, cuDNN, Tensor Cores).
• Опыт работы с векторными БД (Opensearch, Qdrant, FAISS, pgvector) для RAG и других задач.

Мы предлагаем:

• Гибридный формат работы (2-3 дня в офисе).
• Годовой бонус и ежегодный пересмотр.
• Расширенный ДМС с первого дня + стоматологию и льготное страхование для семьи.
• Корпоративный университет Сбера, внутреннюю образовательную платформу, участие в IT-конференциях.
• Офис на Кутузовской с зонами отдыха и спортзалом.
• Льготную ипотеку в Сбере, корпоративную пенсионную программу, подписку СберПрайм+, скидки от партнеров и сервисов группы компаний.

Мы разрабатываем систему, которая автоматизирует весь жизненный цикл инвестиционной сделки. Наши команды работают над следующими направлениями:

• алгоритмизированный и AI поиск потенциальных сделок и клиентов
• управление процессом заключения инвестиционных сделок
• финансовые расчеты и оценка портфеля
• построение финансовой и управленческой отчетности по портфелю инвестиций Сбера
• инвестиционные сервисы для компаний - наших клиентов.

Наша инвестиционная платформа ЮЛ в Сбер - это уникальная разработка на российском рынке для выдачи и сопровождения инвестиционного финансирования юридическим лицам. Такие сделки имеют большое значение для российской экономики, и о них пишут в новостях.

Вы будете работать с микросервисной архитектурой (Kubernetes, Docker, Istio, Kafka).

Мы используем specififcation-driven подход к разработке и активно развиваем эту методологию внутри Сбера.

• развертывание и конфигурация Open Source LLM (DeepSeek, Qwen и др.) на собственных мощностях

• настройка высокопроизводительных инференс-серверов (vLLM, TGI, TensorRT-LLM, llama.cpp)

• оптимизация использования GPU (память, батчинг, quantization) для достижения требуемой пропускной способности и задержек (latency)

• настройка систем observability для слоя инференса: сбор метрик (количество запросов, время генерации, использование VRAM, throughput, количество активных потоков/запросов)

• реализация health checks (ready/live probes) для инференс-серверов

• автоматизация оповещений (alerts) при деградации производительности или падении сервисов

• настраивать сквозную трассировку (trace_id) по всей цепочке сервисов: от пользовательского интерфейса до агентов и инфраструктуры

• развивать дашборды в Grafana для мониторинга агентов, инфраструктуры и ключевых компонентов платформы

• внедрять кастомные метрики для агентов (запросы, статус, P95, LLM-вызовы, токены) без изменения кода агентов

• обеспечивать корреляцию логов и трейсов для быстрого поиска инцидентов

• настраивать алерты: технические (Pod OOM, память, ошибки) и качественные (satisfaction rate, регрессии)

• работать с централизованным Prompt Hub для хранения и обновления промптов без деплоя

• автоматизировать интеграцию E2E-тестов с системой трассировки

• поднятие и конфигурация бэкенд-серверов для работы агентов (FastAPI, Node.js или других runtime)

• контейнеризация (Docker) и оркестрация (Kubernetes / Docker Compose) компонентов системы

• управление окружениями (dev/stage/prod) и CI/CD пайплайнами для доставки кода агентов и обновлений инфраструктуры

• разработка агентов в структурированном формате Markdown, следуя принципам Claude/Harness Engineering (явное описание инструментов, контекста, последовательности действий)

• создание системных промптов, определения инструментов (tools/functions) и четких границ поведения агента

• интеграция агентов с внешними API, базами данных и DevOps-инструментами (Kubernetes, AWS, CI/CD)

• разработка и поддержка пайплайнов CI/CD

• внедрение новых инструментов для автоматизации и мониторинга

• взаимодействие с командами разработки, тестирования и эксплуатации.

• опыт развертывания и сопровождения Open Source LLM в продакшене

• глубокое практическое знание инструментов инференса: vLLM, TGI (Text Generation Inference) или аналогичных (TensorRT-LLM, sglang)

• понимание внутренних механизмов LLM инференса: KV-cache, continuous batching, quantization (GGUF, GPTQ, AWQ)

• опыт написания агентов/промптов в продакшн-среде, знакомство с концепцией Harness Engineering (или готовность быстро в нее погрузиться)

• уверенное владение Python (написание сервисов, скриптов мониторинга, интеграций)

• экспертный опыт работы с контейнеризацией (Docker)

• опыт управления кластерами Kubernetes: написание и поддержка манифестов, работа с Helm (чарты)

• опыт построения и поддержки пайплайнов в Jenkins, GitLab CI

• уверенная работа с Git (стратегии ветвления, код-ревью)

• опыт работы с СУБД (PostgreSQL, ClickHouse или аналогичными) в контексте высоконагруженных систем

• опыт построения observability-стека для микросервисных или агентных систем

• навыки настройки сквозной трассировки, метрик, логирования и алертинга

• уверенное владение инструментами: Grafana, Prometheus, Loki, Jaeger, OpenTelemetry

Будет плюсом:

• опыт работы с фреймворками для агентов (LangChain, LlamaIndex, AutoGen, или собственные решения)

• знание подходов к fine-tuning и evaluation LLM (например, LoRA/QLoRA, использование Axolotl или Unsloth; оценка качества через MMLU, HumanEval, ROUGE, BERTScore, фреймворки DeepEval или LM Evaluation Harness)

• опыт управления GPU-инфраструктурой (NVIDIA A100/H100, L40S, работа с MIG, vGPU)

• навыки администрирования Linux (сети, файловые системы,работа с драйверами NVIDIA).

• комфортный современный офис рядом с м. Ленинский проспект, ул. Вавилова 19, формат работы - гибрид

• корпоративный спортзал и зоны отдыха

• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития

• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная програма

• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров

• вознаграждение за рекомендацию друзей в команду Сбера.

AI Platform Team отвечает за всю инфраструктуру AI: от исследований моделей до их продакшн-запуска.

Наша задача — дать продуктам надёжный и эффективный доступ к LLM. Строить отказоустойчивые системы, которые держат нагрузку.

Мы ищем инженера, который будет проектировать, разворачивать и оптимизировать платформу для инференса больших языковых моделей. Работать с vLLM/Triton, GPU-кластерами, observability-стеком, чтобы модели работали быстро, стабильно и экономично.
Если вы строили высоконагруженные ML-системы и хотите решать инфраструктурные задачи в области LLM — давайте обсудим.

ЧЕМ ПРЕДСТОИТ ЗАНИМАТЬСЯ:

Развитие и эксплуатация инфраструктуры для инференса LLM, включая BitrixGPT, локальные и облачные модели:

• внедрение стеков для эффективного обслуживания LLM, таких как vLLM, Nvidia Triton Inference Server и их аналогов,

• оптимизация схем распределения нагрузки, батчинга и стриминга токенов.

Настройка, эксплуатация и оптимизация GPU-кластеров для инференса:

• управление ресурсами, планирование загрузки (capacity planning), снижение стоимости владения.

Профилирование и отладка сервисов инференса:

• поиск и устранение узких мест, влияющих на задержки (latency) и пропускную способность (throughput).

Настройка наблюдаемости (observability) AI-стека:

• сбор метрик, логирование, трассировка и алертинг (Prometheus, Grafana и других инструментов,
• разработка дашбордов для мониторинга доступности, задержек, ошибок и стоимости инференса.

Участие в разработке и улучшении платформенных процессов:

• совместная работа с командами разработки и data science,
• ревью архитектуры и сервисов, обмен экспертизой на внутренних митапах.

ЧТО МЫ ОЖИДАЕМ ОТ КАНДИДАТА:

• Продовый опыт эксплуатации ML-/LLM-сервисов.

• Практический опыт работы с контейнеризацией и оркестрацией (Docker).

• Владение Python для разработки сервисов, утилит, оркестрации и автоматизации.

• Понимание устройства современных LLM: архитектура трансформеров, токенизация, контекстное окно, влияние параметров (batch size, KV-cache) на latency и throughput.

• Опыт настройки мониторинга и логирования в production (Prometheus, Grafana, ELK-стек, Sentry или аналоги).

• Навыки анализа и оптимизации производительности сервисов: профилирование, поиск и устранение узких мест.

• Готовность отстаивать своё мнение и предлагать улучшения для достижения наилучшего результата.

ТАКЖЕ ДЛЯ НАС ВАЖНО:

• Практический опыт работы с vLLM и/или SGLang.

• Опыт работы с GPU-инфраструктурой: CUDA, мониторинг и тюнинг GPU-нагрузки.

• Знание принципов безопасной разработки и эксплуатации веб-сервисов.

ЧТО МЫ ПРЕДЛАГАЕМ:

• Полная занятость с возможностью удаленной работы или работы в комфортном офисе в Москве/Калининграде;
• Уникальная возможность влиять на пользовательский опыт миллионов компаний по всему миру;
• Работа в компании, где принятие решений основано на данных и аналитике;
• Конкурентоспособная заработная плата, оформление по ТКРФ;
• Программы профессионального развития и обучения;
• ДМС со стоматологией после трех месяцев работы;
• Сервис психологической поддержки ЯСНО и онлайн-платформа для спорта;
• Корпоративная культура, направленная на заботу о сотрудниках и их благополучии.

Кратко о компании

Компания работает в сфере IT и специализируется на внедрении Корпоративных систем электронного документооборота. Основу компании составляет группа экспертов, которая в течение последних 15 лет представляла на российском рынке интересы компаний EMC Corporation (США), DELL (США) и OpenText Corporation (Канада) - мировых лидеров в данной отрасли ECM/EIM.

Кандидатам представляется возможность стать частью команды профессионалов, участвовать в интересных проектах по разработке и внедрению Информационных систем, освоить современную профессию и получать достойный доход.

Роль «ML-разработчик (middle/senior)»:

Мы ищем ML-разработчика для усиления команды, в составе которой присутствуют Senior Java-разработчик и Junior ML-инженер, и которая занимается внедрением ИИ в систему технического документооборота.

Обязанности:

• Внедрение и эксплуатация ML в продакшн (MLOps & Deployment).
• Деплой: интеграция обученной модели в рабочий код и обеспечение реального времени прогнозов через API.
• Создание API для взаимодействия модели с остальными компонентами системы.
• Оптимизация инференса (квантование, prune) и снижение потребления памяти.
• Мониторинг производительности и поддержка моделей в боевых условиях; настройка алертов и автоматическое дообучение.
• Дообучение: автоматизация процессов обновления модели на новых данных (CI/CD для ML).

• Высшее техническое образование.
• Реальный опыт внедрения ИИ в продуктивные решениях (не только прототипы чат-ботов).
• Опыт работы с RAG.
• Опыт использования в решениях сверточных нейросетей, LLM, VLM. Опыт обучения ML-моделей.
• Архитектурное мышление: проектирование гибридных систем (ML + детерминированные правила).
• Широкий кругозор в ML: понимание различий между ML, ИИ и LLM.
• Понимание принципов оценки работы ML-компонентов. Опыт разработки требований к датасетам.
• Опыт системной отладки и дебаггинга пайплайнов: анализ причин низкого качества, локализация слабых мест.
• Опыт проектирования распределённых систем: разделение ответственности между сервисами, проектирование контрактов. Опыт работы с продуктовой командой и интеграции ИИ-решений.
• Гибкость и устойчивость к неопределенности, умение отказаться от неработающего подхода.
• Английский язык уровня Intermediate (для чтения технической литературы).
• Стремление к профессиональному росту.
• Быть способным работать под минимальным контролем при выполнении поставленных задач.

• Работа удалённо; посещение офиса в Санкт-Петербурге или Екатеринбурге по необходимости.
• 40-часовая рабочая неделя.
• Долгосрочное трудоустройство с возможностью профессионального роста.
• Корпоративный ноутбук (или использование собственного).
• Оформление ДМС после прохождении испытательного срока на сотрудника и членов его семьи.

Программа вовлечения и испытательный срок:

• Программа адаптации под руководством опытных сотрудников
• Испытательный срок – 3 месяца

«Мы - команда платформы обучения моделей, отвечаем за автоматизацию процессов подготовки данных, проведения экспериментов, базовые инструменты, инфраструктуру и автоматику, которая снимает головную боль с наших инженеров и помогает им двигаться быстрее.

Мы ищем SeniorMLOPS для усиления нашей команды автоматизации базовых инструментов и инфраструктуры.

Чем предстоит заниматься:

- Разворачиванием, предоставлением, поддержкой и развитием инфраструктуры ML-платформы;

- Интеграцией инструментов и с инфраструктурой и окружениями проведения экспериментов и подготовки данныъ;

- Мониторингом и обеспечением бесперебойной работы ML-платформы;

- Мониторингом и оценкой утилизации аппаратных ресурсов и машинерией для реализации fair-share механизмов

Пожелания к опыту:

- Опыт использования и работы с: Linux, bash, Python3, pytest, SQL, Kubernetes, Grafana, VictoriaMetrics, OTLP, ELK, Moira и тп;

- Опыт использования LLM стека инструментов: vLLM, SGLang, FSDP, Ray, TRL, NeMO, W&B, SLURM, RLI, Verl, Lustre и тп;

- Умение разворачивать, настраивать, мониторить необходимое ML-окружение на инфраструктуре: Spark (PySpark), Airflow, Docker, GitLabCI, MLFlow, JupyterHub;

- Владение практиками DevOps и понимание философии IaaC и self-service-platform.»

• возможность выбрать удобный формат работы: гибрид или офис
• ежегодный пересмотр зарплаты, годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• ипотека выгоднее до 7% для каждого сотрудника
• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
• вознаграждение за рекомендацию друзей в команду Сбера.

Хотите стать частью увлекательного процесса цифровой трансформации?

Блок IT в СОГАЗ активно развивается и меняет подход к созданию продуктов. Мы создаем новые сервисы и решения, которые делают нашу работу более технологичной и эффективной.

Проект: Мы — команда центра внедрения ИИ. Мы не просто автоматизируем рутину, а строим продуктовую ML-платформу. В фокусе: генеративные AI-ассистенты и классические модели машинного обучения.
Формат работы - у нас полный офис в комфортабельном бизнес-центре м. Курская.

Обязанности:

• Проектировать архитектуру AI-систем;
• Внедрение GPU-планировщика для шаринга нагрузки на одном железе;
• Проектирование и поддержка ML-пайплайнов;
• CI/CD для моделей: версионирование данных, моделей, экспериментов;
• Мониторинг production-моделей;
• Деплой и оптимизация LLM / inference-серверов;
• Контейнеризация и оркестрация сервисов;
• CI/CD (GitLab CI);
• Мониторинг и observability (Prometheus, Grafana);
• Обеспечение выполнения требований ИБ в отношении инфраструктуры.

• Бэкграунд в ML/DS — понимание процессов обучения, инференса, работы с данными;
• Опыт от 2 лет в MLOps / DevOps с ML-спецификой;
• Docker, Kubernetes — production-опыт;
• CI/CD (GitLab CI, методология GitOps);
• Глубокие знания Linux;
• Опыт построения или управления GPU-кластерами (NVIDIA, CUDA, nvidia-container-toolkit);
• Понимание специфики multi-tenant GPU-шаринга (MIG, MPS, time-slicing);
• Опыт работы с LLM / inference-серверами (vLLM, TGI, Triton);
• Опыт с GPU-планировщиками;
• Опыт с MLflow, Kubeflow, Airflow или аналогами;
• Высшее техническое образование.

• Оформление полностью в соответствии с ТК РФ, включая оплачиваемый отпуск 29 календарных дней (плюс 1 день отпуска);
• ДМС в лучших клиниках города, страхование жизни и страхование от несчастных случаев и болезней + ДМС родственников с 75% скидкой;
• Премиальные условия на всю продуктовую линейку группы компаний «СОГАЗ» для работников и их близких родственников (ОСАГО, каско, имущество, жизнь);
• Социальный пакет и специальные предложения по страхованию, кредитованию и другие программы от наших партнёров;
• Профессиональное развитие: курсы, тренинги, корпоративная библиотека;
• Заботу компании о детях сотрудников: подарки на Новый год и скидки в детские лагеря.

Привет! Это команда Рекомендаций к товарам.

Мы отвечаем за рекомендации на карточке товара (PDP) — один из ключевых рекомендательных сценариев Ozon. Каждый день через наши алгоритмы проходят миллионы пользователей, а качество рекомендаций напрямую влияет на GMV, количество заказов, рекламную выручку и пользовательский опыт.

Мы ищем сильного ML-инженера, который займётся развитием полки рекомендаций на корзине.

Вы будете

• Улучшать персональные рекомендации с помощью современных трансформерных моделей и классического ML-стека

• Заниматься фичеинжинирингом и настройкой ETL-расчётов

• Разрабатывать совместно с коллегами из runtime решений, работающих под высокими нагрузками

• Запускать A/B-тесты и анализировать результаты

• Исследовать современные подходы

Наш стек

• Python · PyTorch · Golang · Hadoop Stack (Spark, Hive, HDFS) · Airflow

Нам важно

• Опыт работы в Information Retrieval (Ranking, RecSys, Search Engines)

• Опыт в Data Science от 3 лет

• Опыт разработки и вывода в production ML/DL-алгоритмов

• Уверенные теоретические знания ML и DL

• Владение основными алгоритмами и структурами данных

• Python на уровне достаточном для реализации production ML-фич

Будет плюсом

• Опыт работы с высоконагруженными системами

• Знания DeepRecsys или прикладного NLP применительно к RecSуs

• Знание Hadoop-стека и работа с большими данными (особенно ценим Spark и умение писать эффективные SQL-запросы)

• Опыт программирования на Go или другом компилируемом языке (Java, C++, C#)

Пожалуйста, внимательно ознакомьтесь с описанием вакансии

Ищем сильного инженера-разработчика для сопровождения и развития высоконагруженной LLM-платформы обработки больших объёмов данных (текст, документы, изображения, аудио).

Под капотом:

• Микросервисы: движок на .NET, оркестрация на Python, веб-панель на React
• Хранилище: PostgreSQL (десятки миллионов записей)
• Кеш: Redis
• Self-hosted LLM: vLLM на GPU за nginx-балансировщиком
• Инфраструктура: Docker, мониторинг Prometheus / Grafana

Планы развития: RAG-контур на векторном поиске и доменная адаптация моделей.

Важно: уметь видеть систему целиком — от SQL-плана запроса до раскладки моделей по видеокартам.

Обязанности:

• Поддержка продакшена: деплой, обновления, разбор инцидентов, откаты
• Доработка логики обработки: классификация, нормализация, извлечение сущностей, контроль качества вывода LLM
• Оптимизация латентности и пропускной способности: тюнинг батчей, параллелизма и конкурентности LLM, оптимизация SQL и кеша
• Эксплуатация LLM-стека: раскладка и обновление моделей на GPU, мониторинг видеокарт, диагностика
• Развитие RAG-контура: векторный поиск, индексация, релевантность; доменная адаптация моделей через LoRA
• Работа с данными: дампы и восстановление PostgreSQL, прогрев кеша, миграции между серверами
• Наблюдаемость: дашборды, метрики, разбор «хвостов» p95/p99

Требования:

• Уверенный бэкенд на C# / .NET И на Python (допустимо: сильный в одном + рабочий во втором с быстрым доростом)
• PostgreSQL на хорошем уровне: сложные запросы, индексы, EXPLAIN, партиционирование, дампы/restore
• Docker / docker-compose и уверенный Linux (ssh, systemd, диагностика по логам)
• Практический опыт с LLM: промптинг, параметры генерации, self-hosted инференс, понимание токенизации и ограничений контекста
• Инженерная самостоятельность: умение читать код и метрики распределённой системы
• Понимание работы с тестовой средой и продакшеном

Будет большим плюсом

• RAG и векторные БД (Qdrant): эмбеддинги, индексация, гибридный поиск, оценка релевантности
• LoRA / PEFT — лёгкая доменная адаптация моделей
• Эксплуатация vLLM / TGI / llama.cpp, понимание GPU (nvidia-smi, VRAM, tensor-parallel, квантизация), Hugging Face
• React / Vite для правок админ-панели
• Базовый NLP: токенизация, детекция языка, нормализация, извлечение сущностей
• Диагностика железа (в т.ч. виртуализация / KVM)

Условия:

• Гибкое начало и окончание дня
• Оформление: ТК / ИП
• Аккредитованная IT-компания
• Реальное владение сложной системой и свобода в инженерных решениях
• Отсутствие бюрократии

ИТ B2C — самая крупная экосистема в Сбере. Нас более 8000 человек в 18 городах России. Мы занимаемся разработкой и развитием розничных решений, помогая сделать сервисы Банка доступнее, безопаснее и удобнее.

Ждем именно тебя!

Про нас:

Мы разрабатываем агентские RAG-системы, которые помогают компании улучшать клиентский опыт за счёт персонализированных решений.

У нас уже есть рабочий продукт, работающий в проде и приносящий пользу. Сейчас команда активно работает над новыми применениями технологии и улучшает качество уже в рабочих направлениях.

Обязанности

• ML-разработка полного цикла – помочь понять что и зачем нужно бизнесу, перевести это в термины ML, проводить эксперименты, готовить решение к выводу в продакшн
• разрабатывать, оптимизировать и поддерживать NLP пайплайны, включая RAG-системы и ассистентов для бизнес-задач
• создавать и развивать ИИ-агентов и мультиагентные системы (workflow-оркестрация, планирование, инструменты, memory-модули, интеграции с сервисами банка)
• интегрировать агентские пайплайны в высоконагруженные сервисы банка, обеспечивая стабильность, производительность и мониторинг.
• разрабатывать сервисы вокруг моделей: API-слои, микросервисы, inference-скрипты, CI/CD для ML
• обеспечивать качество кода и следить за инженерными практиками (тестирование, логирование, мониторинг).

Требования

• знание основ классического ML и NLP/LLM: классические задачи и архитектуры/подходы для их решения, метрики, процесс обучения моделей.
• опыт разработки и продакшен-внедрения RAG-систем, AI-ассистентов, работа с векторными хранилищами и retrieval-стеком.
• отличное знание Python, опыт написания промышленного, поддерживаемого и тестируемого кода, работы с параллелизмом и асинхронностью.
• плюсом будет знание CI/CD, владение инструментами разработки и инфраструктуры: Docker/Openshift/Kubernetes/Jenkins/Prometheus/Graphana/Kafka, PostgreSQL.

Что ещё может пригодиться:

• Hadoop, PySpark, Airflow
• Scala, SQL
• CI/CD (у нас Jenkins+Bitbucket+Nexus), DevOps

Условия

• комфортный современный офис г.Москва, Кутузовский пр., д.32, к.1
• возможность выбрать удобный график – офис/гибрид/удаленка (опционально)
• ежегодный пересмотр зарплаты, квартальная и годовая премия (премия указывается в зависимости от должности и системы премирования)
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• программа адаптации и помощь руководителя на старте (для вакансий уровня Junior)
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
• подписка Прайм с возможностью совместного использования на трёх близких
• вознаграждение за рекомендацию друзей в команду Сбера.

Stealth-mode AI-powered Cloud-Native Health-Tech. The Business Domain revolves around providing Better Care for the US Patients; meaning, it’s about Treating Patients well.

It’s not vaporware, our platform supports US Physician Networks (IPAs) by enabling Smarter, Risk-Adjusted, and more Predictive Care that improves real patient outcomes.

Compensation and Benefits:

Paid Time Off

The company has Unlimited PTOs Policy and compensated New Years Holidays on top of that. The misuse of the policy isn’t welcomed, though it’s definitely possible to take at least two weeks – and fully compensated – vacation, or more.

Corporate Hardware

The company provides Corporate Hardware for employees who completed their Probationary Period, as well as proven their value.

Means of Communication

We use Google Workspace, Slack, Zoom, and similar collaboration tools for messaging, meetings, and document sharing across the organization. We don’t use Microsoft Outlook, Microsoft Team and similar software.

Cloud-Native

There’s real ability to make most solutions in a Cloud-Native and Third-Party Integrations manner, rarely spinning something self-hosted (e.g., over GKE). Fully Serverless Approach, based on Cloud Functions and Cloud Run is definitely not welcomed.

Relocation

Relocation assistance to a desired country may be provided after the probationary period, based on business needs and demonstrated performance.

About team

Working jointly with other ML engineers as part of a full-fledged AI team that includes data and medical analysts, data engineers, and data scientists.

Team Building

The company partially compensates Team Building events, when multiple teammates are located in nearby countries.

Location and timezone:

• We are focused on hiring in time zones overlapping with the US (Portugal, Spain) or Western Europe

• We are only able to engage contractors in countries where international payroll and compliance can be reliably supported

• We are open to considering additional locations where time zone overlap and payroll compliance can be reliably supported, including certain Eastern European and Middle Eastern countries (Bulgaria, UAE, etc.).

Languages:

• Upper-Intermediate English or higher; ability to present work and lead discussions with US-based teammates, customers, and stakeholders.

Responsibilities:

Build and operate ML solutions for multimodal healthcare data processing and real-time AI agent serving.

Key Focus Areas

• Clinical document analysis: extract, classify, and structure medical data

• Medical text processing: summarize clinical notes, provide clinical decision support

• Conversational AI: develop voice and chat agents for healthcare workflows

What You’ll Own:

• Architect, implement and optimize ML infrastructure using GCP tools (Vertex AI, BigQuery, Cloud Composer, GKE, Pub/Sub)

• Design and develop DAG-based batch pipelines and real-time API endpoints for ML model and multimodal agent serving

• Deploy and maintain self-hosted LLM solutions with custom fine-tuning and production optimization

• Build monitoring and observability for production systems: track system health, model performance, inference latency and operational costs

• Drive technical decisions and collaborate with cross-functional teams to integrate ML solutions into healthcare business processes

Required Experience

ML Engineering

• 5+ years as an ML Engineer building, deploying and running ML solutions in high-load, real-world business processes

• Proven track record of deployment of high-load ML solutions into production from R&D and Prototyping to Deployment and Productivization

• Proven track record of building monitoring systems for ML solutions

Cloud-Native & GCP

• Cloud-Native Experience with GCP – 3+ years using ML/data products (Vertex, BigQuery, Cloud Composer, GKE, Pub/Sub)

• We don’t – at all – consider Legacy-only Big Data Experts. Meaning, it’s not enough to know outdated technologies, such as Teradata, Hadoop, Spark over Hadoop, etc.

• This role requires working in a Unix-like Development Environment (e.g., macOS, Linux). We do not use Windows-based workstations for Engineering or AI-related tasks. Virtualization (e.g., WSL) isn’t enough.

Engineering and Fundamentals

• We expect strong productization skills — the ability to take ML and LLM solutions beyond prototypes and deliver production-ready systems with a focus on latency, reliability, observability, cost efficiency, and continuous operation in healthcare environments.

• We prioritize Cloud-Native architecture on GCP, leveraging managed and scalable services such as Vertex AI, BigQuery, Cloud Composer, GKE, and Pub/Sub. We avoid fully serverless designs when they limit control, visibility, or performance tuning for ML/LLM workloads.

• Experience with high-performance LLM inference engines such as vLLM (or similar)

• Strong Python expertise is required for production-grade ML/NLP/LLM development, including pandas, asyncio-based services, FastAPI, and Pydantic.

• A solid understanding of data architecture and database internals is important — schema design, DDL, partitioning, indexing, storage formats, and cost/performance optimization at scale.

• We also require strong SQL skills for working with large BigQuery datasets, including clustering, partitioning, and query optimization.

• Deep experience with modern ML and NLP is essential — PyTorch, Transformers, the Hugging Face ecosystem, multimodal models and retrieval-augmented methods.

Компания, занимающаяся разработкой облачных технологий для здравоохранения на базе искусственного интеллекта, ищет талантливого Senior ML инженера для долгосрочного сотрудничества.

Вы присоединитесь к международной команде первоклассных профессионалов, которые с энтузиазмом создают продукты, улучшающие качество медицинских услуг.

Требуемый опыт:

• Более 5 лет работы в качестве инженера по машинному обучению

• Подтвержденный опыт внедрения решений машинного обучения с высокой нагрузкой

• Подтвержденный опыт создания систем мониторинга для решений машинного обучения

• Требуется опыт работы с Cloud-Native — 3+ лет. Предпочтительно с GCP. Кандидаты с высоким уровнем владения GCP всегда будут иметь приоритет перед Azure, AWS и другими облачными платформами

• Мы не рассматриваем кандидатов, специализирующихся только на устаревших технологиях больших данных. То есть недостаточно знать устаревшие технологии, такие как Teradata, Hadoop, Spark over Hadoop и т. д.

• Эта должность требует работы в Unix-подобной среде разработки (например, macOS, Linux)

• Навык выводить решения ML и LLM за рамки прототипов и поставлять готовые к производству системы с акцентом на задержку, надежность, наблюдаемость, экономическую эффективность и непрерывную работу в среде здравоохранения

• Мы отдаем приоритет облачной архитектуре на GCP, используя управляемые и масштабируемые сервисы, такие как Vertex AI, BigQuery, Cloud Composer, GKE и Pub/Sub.

• Опыт работы с высокопроизводительными механизмами вывода LLM, такими как vLLM (или аналогичными).

• Для разработки ML/NLP/LLM производственного уровня требуются глубокие знания Python, включая pandas, сервисы на основе asyncio, FastAPI и Pydantic.

• Глубокое понимание архитектуры данных и внутреннего устройства баз данных — проектирование схем, DDL, разбиение на разделы, индексирование, форматы хранения и оптимизация затрат/производительности в масштабе.

• Глубокие знания SQL для работы с большими наборами данных BigQuery, включая кластеризацию, разбиение на разделы и оптимизацию запросов.

• Глубокий опыт работы с современными ML и NLP — PyTorch, Transformers, экосистема Hugging Face, мультимодальные модели и методы с расширенным поиском.