DevOps/MLOps инженер AI-платформы (LLM/VLM, GPU, RAG) (Python)

Мы развиваем AI-платформу, где LLM/VLM, RAG-пайплайны и транскрибация должны работать стабильно и быстро. Ищем инженера, который возьмет на себя инфраструктуру: подготовит серверный, контейнерный и GPU-контур, настроит CI/CD, мониторинг, хранение и обеспечит поддержку после запуска. Нужно будет поднять и стабилизировать инфраструктуру под AI-нагрузки: GPU, LLM/VLM, транскрибацию.

Чем предстоит заниматься:

• Инфраструктура для AI: подготовка и сопровождение серверного и контейнерного контура для AI-приложений, GPU-контура для LLM/VLM и отдельного сервера транскрибации. Настройка Docker/контейнеризации, переменных окружения и конфигураций.

• CI/CD и автоматизация: настройка CI/CD для backend, frontend и служебных компонентов проекта, автоматизация на Python/Bash, использование Docker multi-stage builds.

• Мониторинг и производительность: настройка мониторинга, журналирования и метрик загрузки (Prometheus, Grafana, Loki, OpenTelemetry), проведение нагрузочных проверок, анализ CPU/GPU/RAM и оптимизация окружения.

• Хранение и данные: настройка хранилища, резервного копирования, разделение горячих индексов и архива.

• Эксплуатация и стабильность: поддержка развертываний сервисов, моделей ИИ и конфигураций; стабилизация окружения перед запуском, обработка инфраструктурных дефектов и инцидентов, обновление конфигураций и контроль доступности сервисов. Подготовка эксплуатационной документации, регламентов поддержки и рекомендаций по промышленному масштабированию.

Наш стек:

Python, Bash, Docker (multi-stage), CI/CD, Prometheus, Grafana, Loki, OpenTelemetry, LLM/VLM-инференс, vLLM, LangChain, RAG, vector databases, GPU/NVIDIA, системы транскрибации.

Что для нас важно:

• Высшее техническое образование, опыт DevOps от 3 до 5+ лет и успешные кейсы подготовки и сопровождения инфраструктуры, связанной с ИИ.

• Уверенное владение Python/Bash для автоматизации, Docker multi-stage builds, CI/CD, знание Prometheus, Grafana, Loki, OpenTelemetry.

• Понимание LLM-инференса, RAG-пайплайнов и vector databases. Опыт с vLLM, LangChain, работа в FinTech и с моделями ИИ — преимущество.

Условия:

• Как работаем. Офис, гибрид или удалёнка — подберём формат под вас.

• Где. Офис в Химках, 10 минут от метро. От м. Беломорская, м. Сходненская и ж/д ст. Химки ходит корпоративный трансфер. На машине — охраняемая парковка на территории.

• График. Пн–чт с 9:00 до 18:00, в пятницу до 16:45. Вечер пятницы остаётся вашим.

• Забота. ДМС после испытательного срока, страхование, полный соцпакет.

• Оплата. Достойная оплата: зарплата обсуждается индивидуально и пересматривается ежегодно в зависимости от вашего вклада.

• Масштаб. Банк — это тысячи сервисов, критичных для клиентов. Ваша работа будет реально влиять на стабильность бизнеса.