MLOps

О команде

SS-infra (Security Services Infrastructure) — команда, занимающаяся развитием и построением инфраструктуры в составе Security Services. Мы строим, автоматизируем и защищаем инфраструктуру для «красных» и «синих» команд (Penetration Testing, Red Teaming, Incident Response, Threat Hunting и др.). Покрываем весь спектр DevOps/SecOps/DevSecOps. 

Роль

Ищем инженера с ML- или DevOps-бэкграундом, который перешёл в MLOps. Нам нужен инженер, готовый пилотировать, внедрять и развивать новые решения и подходы. Помимо ML-инфраструктуры, нужно быть готовым помогать команде с классическими DevOps-задачами. 

Обязанности

MLOps

• Проектировать архитектуру AI-систем (от прототипа до production);
• Внедрение GPU-планировщика (Kueue, Volcano или аналог) для шаринга нагрузки на одном железе
• Проектирование и поддержка ML-пайплайнов (обучение, валидация, деплой моделей)
• CI/CD для моделей: версионирование данных, моделей, экспериментов
• Мониторинг production-моделей (drift detection, performance tracking)
• Деплой и оптимизация LLM / inference-серверов (vLLM, TGI, Triton)

DevOps

• Контейнеризация и оркестрация сервисов (Docker, K8s)
• CI/CD (GitLab CI, Jenkins)
• IaC (Terraform, Ansible)
• Мониторинг и observability (Prometheus, Grafana, Loki)
• Автоматизация рутинных операций
• Обеспечение выполнения требований ИБ в отношении инфраструктуры
• Ведение технической документации по вверенным ресурсам

Требования

• Бэкграунд в ML/DS — понимание процессов обучения, инференса, работы с данными
• Опыт от 2 лет в MLOps / DevOps с ML-спецификой (было бы огромным плюсом)
• Docker, Kubernetes (Helm, управление кластерами) — production-опыт
• Python — уверенное владение
• CI/CD (GitLab CI, Jenkins, методология GitOps)
• Глубокие знания Linux
• Terraform / Ansible для IaC
• Опыт построения или управления GPU-кластерами (NVIDIA, CUDA, nvidia-container-toolkit)
• Опыт с GPU-планировщиками (Kueue, Volcano, Run:ai)
• Опыт с MLflow, Kubeflow, Airflow или аналогами
• Высшее техническое образование

Будет плюсом

• Опыт работы с LLM / inference-серверами (vLLM, TGI, Triton)
• Знакомство со стеком команды: Gitlab, Nginx, Kafka, RabbitMQ, Elasticsearch, Loki, Grafana, Vault, Keycloak
• Понимание специфики multi-tenant GPU-шаринга (MIG, MPS, time-slicing)
• Опыт работы с Talos OS / Flatcar
• Опыт построения гетерогенной инфраструктуры (on-premise + облака)