Сроки предоставления резюме: до вечера 24.09
маркировка · На сервисе с: 22.09.26 15:21
ID 3644
DevOps/MLOps
Senior, Middle+
РФ/РБ❗️❗️❗️
Сроки предоставления резюме: до вечера 24.09
Клиент: Маркировка
Проект:
Сопровождение инфраструктуры для инференса LLM‐моделей, AI‐сервисов, Mcp сервисов, агентов.
Работа с GPU‐инфраструктурой и управление on‐prem GPU‐серверами: настройка драйверов ОС, мониторинг, оптимизация использования ресурсов.
Группа развития сервисов. Команда выстраивает современные CI/CD‐процессы на базе open‐source‐решений, обеспечивает поддержку тестовых окружений, команд разработки и тестирования. Ищем инженера в Devops команду развития ai сервисов. Команда 6 человек, ищут 7го.
Длительность: 1 год +
Занятость: фултайм
Гражданство: РФ, РБ
Рабочий график: по МСК ±2 час.
Формат: удаленка
Плановый срок рассмотрения кандидата: 7 ±3 дн.
Дополнительно: Запрос конфиденциален и запрещен к распространению на внешних каналах.
Собеседование 1 этап на 1,5 часа.
На интервью для выполнения практического задания в live-coding должна быть возможность запустить IDEA (или аналог) и пошарить экран.
При использовании ИИ в прохождении собеседования заказчик оставяляет за собой право закончить собеседование ранее предполагаемого времени.
Обязательно:
по DevOps
Linux: администрирование и диагностика.
Python: скрипты автоматизации и интеграции.
Контейнеризация: сборка и сопровождение образов.
Kubernetes: эксплуатация кластеров и приложений.
Helm: разработка и сопровождение чартов.
GitLab CI/CD: разработка пайплайнов.
Ansible: разработка ролей автоматизации.
HAProxy: балансировка трафика.
Istio: управление трафиком сервисов.
Prometheus и Grafana: мониторинг и алертинг.
Vault: настройка хранения и выдачи секретов.
Keycloak: настройка аутентификации и интеграций сервисов.
Kafka: эксплуатация и диагностика брокера.
по ML
Практический опыт эксплуатации GPU и LLM-инференса.
MLflow: сопровождение учёта экспериментов и реестра моделей.
NVIDIA-драйверы и CUDA: настройка и диагностика.
Запуск GPU-нагрузок в контейнерах и Kubernetes.
Понимание механизмов распределения и совместного использования GPU.
vLLM: развёртывание и оптимизация инференса.
LiteLLM: настройка и сопровождение шлюза.
n8n: разработка и сопровождение сценариев автоматизации.
Модели: версионирование, воспроизводимый деплой и откат.
Мониторинг инференса: метрики GPU и производительности.
Желательно:
Опыт с NVIDIA H100/H200❗️
Практический опыт с DRA, MPS и time-slicing
Опыт настройки и диагностики InfiniBand и RDMA/RoCE.
Сопровождение Nexus, Harbor
Задачи:
Проектирование и развитие архитектуры AI‐систем и сервисов инференса.
Внедрение и настройка GPU‐планировщика для шаринга нагрузки на одном физическом сервере и k8s.
Проектирование и поддержка ML‐пайплайнов.
Организация CI/CD для моделей: версионирование данных, моделей, экспериментов.
Мониторинг production‐моделей и инфраструктуры.
Деплой и оптимизация LLM / inference‐серверов.
Контейнеризация и оркестрация сервисов (Kubernetes, Helm).
Настройка и поддержка CI/CD (GitLab CI).
Настройка мониторинга и observability (Prometheus, Grafana).
Обеспечение выполнения требований информационной безопасности в отношении инфраструктуры.
Важно:
Расписано, чем занимался на каждом проекте
Указаны навыки и программы, которые использовались
❗️Просьба при отправке кандидата указывать сразу:
- Штат/рынок/партнер ( если спец.рыночный, указать "на предоффере"):
- Запланированные отпуска (в ближ. 3 мес):
- Готовность к выходу на проект
❗️❗️❗️Писать ••••••••⚡️⚡️⚡️⚡️ С РЕЗЮМЕ В КОТОРОМ УКАЗАН ВОЗРАСТ И ЛОКАЦИЯ НАХОЖДЕНИЯ. Укажите 🆔 вакансии❗️ Без этой информации отклики не рассматриваются ❗️❗️
HireSeeker собирает вакансии со всех площадок и присылает только релевантные. Бесплатно.