DevOps / MLOps Engineer (Middle+/Senior)

ID 3858 - Middle/Middle+/Senior DevOps

🌍 Локация: РФ/РБ
💼 Удаленно
🕔 Занятость: проектная, плановая трудоёмкость - 260 человеко-часов.

🏢 Проект: ИТ компания
В рамках проекта выполняется поэтапное построение инфраструктуры: сначала разворачивается временный облачный контур, далее подготавливается целевой GPU‐сервер с оптимизацией под ML‐задачи, следом - деплой vLLM‐платформы с интеграцией доступа к моделям и вспомогательным сервисам, параллельно настраиваются мониторинг и механизмы безопасности; завершается проект миграцией системы на инфраструктуру заказчика, тестированием работоспособности и оформлением эксплуатационных материалов.

Стек проекта: Linux, Kubernetes, Docker, GitLab CI/CD, NVIDIA GPU, Prometheus, Grafana.

❗На проект нужен DevOps / MLOps Engineer с фокусом на Kubernetes, GPU-инфраструктуру и воспроизводимый CI/CD.

💡 Требования:
- Опыт администрирования Linux (Ubuntu Server) на уверенном уровне, включая работу с базовой инфраструктурой и настройку окружения;
- Продвинутый уровень владения Docker, а также уверенные навыки развёртывания и эксплуатации Kubernetes, в том числе с настройкой Kubernetes NVIDIA Device Plugin и пониманием принципов его работы;
- Опыт работы с Helm, GitLab Container Registry и GitLab CI/CD: умение самостоятельно настраивать pipelines и runners, управлять процессами непрерывной интеграции и доставки;
- Практический опыт настройки GPU‐оборудования (NVIDIA GPU / CUDA) в Linux и контейнерах, включая использование NVIDIA Container Toolkit для интеграции GPU в контейнерные среды;
- Опыт развёртывания и настройки систем мониторинга Prometheus и Grafana для отслеживания состояния инфраструктуры и сервисов;
- Уверенные знания в области сетевых технологий: работа с сетевой подсистемой, настройка TLS, управление DNS и понимание типовых сетевых сценариев в кластерных средах;
- Опыт написания Bash‐скриптов для автоматизации рутинных задач и интеграции в процессы эксплуатации;
- Практический опыт с Terraform или Ansible, достаточно уверенного владения одним из этих инструментов для автоматизации развёртывания и управления инфраструктурой.

📌Дополнительные требования
- Подтверждённый опыт эксплуатации GPU‐серверов в задачах AI/ML;
- Практический опыт развёртывания решений для инференса vLLM, Ollama, Triton Inference Server и аналогов;
- Глубокое понимание специфики работы с GPU: CUDA, управление VRAM, tensor parallelism, учёт аппаратных ограничений;
- Опыт администрирования Kubernetes‐кластеров на bare‐metal‐инфраструктуре;
- Навыки настройки мониторинга GPU‐ресурсов с использованием NVIDIA DCGM Exporter;
- Опыт интеграции и работы с платформой Langfuse;
- Знание требований GDPR и практический опыт адаптации инфраструктуры под эти нормы;
- Умение выстраивать воспроизводимые процессы развёртывания, а также обеспечивать миграцию приложений между облачной и локальной средами.

📋Задачи:
- Формирование Kubernetes‐кластера в облачной среде;
- Настройка сетевой связности: реализация Ingress, подключение TLS‐терминации и интеграция DNS;
- Развёртывание изолированных окружений Dev и Test;
- Обеспечение защищённого хранения конфигурационных данных и секретов;
- Развёртывание либо адаптация временного экземпляра GitLab под задачи проекта;
- Интеграция и настройка GitLab Runner;
- Автоматизация процессов сборки Docker‐образов и их деплоя в Kubernetes;
- Настройка Container Registry для управления образами;
- Внедрение автоматических проверок безопасности: сканирование на уязвимости (Trivy), анализ кода (Bandit), формирование SBOM;
- Обеспечение переносимой архитектуры CI/CD, пригодной для миграции на инфраструктуру заказчика;
- Установка и базовая настройка ОС Linux;
- Установка драйверов NVIDIA и NVIDIA Container Toolkit;
- Адаптация Kubernetes для работы с GPU‐ресурсами (интеграция NVIDIA Device Plugin);
- Тестирование доступности двух видеокарт NVIDIA RTX A6000 из контейнерной среды;
- Обеспечение гибкого распределения GPU‐ресурсов между рабочими окружениями;
- Деплой vLLM в кластере Kubernetes;
- Настройка доступа к локальным файлам моделей и организация их хранения;
- Совместная с ML‐инженером оптимизация использования GPU: задание лимитов памяти, настройка параллелизма и распределения нагрузки;
- Развёртывание внутренних сервисов и API‐слоёв для взаимодействия с моделью;
- Реализация механизма переключения между внешним LLM‐API и локальной моделью;
- Развёртывание стека мониторинга: Prometheus и Grafana;
- Подключение сбора метрик по GPU с помощью NVIDIA DCGM Exporter;
- Настройка сквозного мониторинга: отслеживание состояния Kubernetes, загрузки CPU/RAM, потребления GPU и VRAM, доступности сервисов;
- Реализация централизованного журналирования с настройкой ротации логов;
- Внедрение политик контроля доступа: RBAC, Network Policies, TLS;
- Обеспечение регулярного резервного копирования критических конфигураций и данных;
- Перенос приложения из временного облачного окружения на сервер заказчика;
- Подготовка и развёртывание целевых рабочих окружений;
- Проверка корректности работы CI/CD‐конвейера после переноса;
- Составление комплекта инструкций: по развёртыванию, обновлению и восстановлению системы;
- Участие в нагрузочном тестировании, выявление и устранение узких мест и инфраструктурных проблем.

📨 Отклик — через форму: ••••••••
или напрямую рекрутеру ••••••••

❗️Откликайтесь только при релевантном опыте.

❗️При первичном отклике:
ID вакансии / ФИО / локация / возраст / занятость (работаете/нет) / формат работы (удаленка, гибрид, офис) / стек / опыт / резюме / сверка с требованиями

❗️Повторный отклик: ID вакансии + сверка.

#DevOps #Удаленно #вакансия