СБЕР

Middle devops инженер (LLM модели) (Python, FastAPI)

Мы - команда высококлассных инженеров, которые строят платформу для инференса и SFT opensource LLM. Используем продвинутые cutting edge движки для инференса, много экспериментируем и боремся за каждую дополнительную единицу в Token thoughp…

СБЕР

Зарплата не указанаРоссияМоскваГибрид

Мы - команда высококлассных инженеров, которые строят платформу для инференса и SFT opensource LLM. Используем продвинутые cutting edge движки для инференса, много экспериментируем и боремся за каждую дополнительную единицу в Token thoughput. Cейчас мы разрабатываем и оптимизируем инфраструктуру инференса LLM-моделей.

Вам предстоит

  • разрабатывать и оптимизировать инфраструктуру инференса LLM-моделей для минимальной задержки и высокой пропускной способности внутренних приложений и сервисов
  • обеспечивать масштабируемость и надежность LLM-serving инфраструктуры; выбирать и настраивать инструменты для инференса (sglang, vLLM, llama.cpp)
  • разрабатывать механизмы разграничения доступов к API-сервисам моделей
  • строить систему observability и мониторинга LLM-инференс
  • собирать модели в сервисы и интерфейсы (FastAPI, Flask, Tornado, Streamlit, Chainlit и т.д.).

Мы ожидаем

  • опыт в роли devops от 2 лет
  • уверенные знания Linux: сеть, storage, роли/пользователи, менеджмент процессов.
  • владение Kubernetes (Istio Service Mesh)
  • опыт построения высокопроизводительных LLM-сервисов (sglang, vLLM)
  • опыт настройки высоконагруженных прокси-серверов (nginx, Envoy, HAProxy): load balancing, rate limiting, SSL termination, health checks
  • владение языками: Bash, Python, Groovy (Jenkins scripted)
  • продвинутые навыки в CI/CD и оркестрации моделей.

Будет плюсом

  • опыт с AI-агентами
  • понимание распределенных систем и GPU-коммуникации (NCCL, MPI, RDMA, InfiniBand)
  • знание служебных компонентов LLM-пайплайна: токенизаторы, KV-cache, контекстное окно
  • понимание внутренней архитектуры GPU (CUDA, cuDNN, Tensor Cores)
  • Опыт работы с векторными БД (Opensearch, Qdrant, FAISS, pgvector) для RAG и других задач.

Мы предлагаем

  • гибридный формат работы (2-3 дня в офисе)
  • годовой бонус и ежегодный пересмотр
  • расширенный ДМС с первого дня + стоматологию и льготное страхование для семьи
  • корпоративный университет Сбера, внутреннюю образовательную платформу, участие в IT-конференциях
  • офис на Кутузовской с зонами отдыха и спортзалом
  • льготную ипотеку в Сбере, корпоративную пенсионную программу, подписку СберПрайм с возможностью совместного использования на трёх близких, скидки от партнеров и сервисов группы компаний.

Похожие вакансии DevOps

hh.ru
Зарплата не указанаРоссияСанкт-ПетербургУдалёнка

Что за проект?

У нас растёт количество команд и сервисов. Запущен проект: «Единая платформа разработки, сервиса и трансформации». Смысл: уйти от разрозненных инструментов и ручного управления к нормальной инфраструктуре, где всё предсказуемо, автоматизировано и не требует костылей.

Кого мы ищем:

Не просто исполнителя, а инженера, который сформирует DevOps-культуру и раскатает её на все потоки разработки. Готового взять на себя инфраструктуру, CI/CD, мониторинг и не дёргать каждые пять минут: «А что там с сервером?».

Что нам важно:

  • вы уже делали трансформации — переезды, миграции, внедрение практик на уровне организации
  • умеете работать самостоятельно, без постоянного контроля
  • видите картину целиком, а не только свою узкую зону

Стек:

  • Базы данных: Greenplum, Postgres, OpenSearch, ClickHouse
  • Мониторинг: VictoriaMetrics, Grafana
  • Контейнеры: Docker, Docker-compose, Kubernetes
  • GitLab (CI/CD)
  • Yandex Cloud и другие облака
  • Python, C#
  • Low-code: PIX, Elma

Чем предстоит заниматься:

  • Администрировать БД, Unix/Windows-серверы, облачные сервисы
  • Строить и поддерживать пайплайны в GitLab CI/CD
  • Автоматизировать инфраструктуру (тут без вариантов)
  • Анализировать текущий ландшафт, находить узкие места, предлагать и внедрять решения
  • Настраивать мониторинг и алерты в VictoriaMetrics / Grafana, делать удобные дашборды
  • Внедрять Kubernetes туда, где его ещё нет, и развивать там, где уже есть
  • Обеспечивать доступность, производительность и стабильность приложений
  • Реагировать на сбои и делать выводы


У вас есть:

  • реальный опыт с GitLab CI/CD и Ansible
  • Linux, Docker, Helm, Kubernetes — не просто «слышал», а работал
  • мониторинг: Grafana, Prometheus / VictoriaMetrics
  • Python и базовый SQL — нужны для автоматизации и понимания происходящего
  • понимание, как устроены платформы разработки и что такое единый IT-ландшафт, не на уровне абстракций
  • опыт внедрения DevOps в масштабах организации, а не в рамках одной команды
  • трансформационный опыт — обязательно

Соц.сети

DevOps Tech Lead / Infra Architect

Зарплата не указанаНе указана странаЛокация не указанаУдалёнка

📑 Вакансия DevOps Tech Lead / Infra Architect / DevOps Team Lead

Удалённо вне РФ · Полная занятость

💎 •••••••• ищет DevOps Tech Lead для международного игрока рынка iGaming, более 10 лет разрабатывающего платформенные решения. Предстоит проектировать инфраструктуру высоконагруженных и отказоустойчивых систем — от Bare Metal до Kubernetes в облаке, формировать roadmap миграций, HA, observability и безопасности, отвечать за надёжность и производительность платформы, управлять DevOps-командой и развивать её, планировать и декомпозировать задачи, взаимодействовать с разработчиками и продуктовыми менеджерами, управлять техническими инцидентами. Оформление по ИП/B2B вне РФ, гибкое начало рабочего дня, 20 дней отпуска, 5 family days и больничные.

🧩 Требования: от 5 лет опыта в роли Team Lead, Architect или Tech Lead в продуктовой компании, опыт управления и найма сотрудников, системное мышление, проактивность и ownership mindset. Знание Linux, Debian/Ubuntu, Proxmox VE, QEMU/KVM, libvirt, сетей, Routing, VPN, BGP, DNS, балансировки нагрузки, High Availability и Cloudflare; опыт с Docker, Kubernetes, Helm, ArgoCD, GitLab CI, Terraform, Ansible, Grafana, Prometheus, VictoriaMetrics, Zabbix, ELK, Opsgenie, PostgreSQL, MongoDB, ClickHouse, Redis, Kafka и RabbitMQ; глубокое понимание GitOps, DevOps и SRE. Плюсом будут AWS или GCP, Python или Golang, опыт построения high-load/HA-продуктов и миграции в Kubernetes или облако.

💬 Резюме отправлять ••••••••

⚠️ Если работодатель просит войти в их систему через iCloud/Google, прислать код, запустить код/ПО - это мошенники. Обязательно ••••••••

🔮 •••••••• — бесплатно постим IT-вакансии

Другие площадки
go invest

DevOps-инженер

go invest
Зарплата не указанаРоссияМоскваУдалёнка

Обязанности:

  • Автоматизация процессов развёртывания новых сред, их тестирование и эксплуатация;
  • Повышение надёжности, производительности, снижение времени настройки и обслуживания используемых решений;
  • Разработка, внедрение, совершенствование и поддержка CI/CD-процессов;
  • Участие в устранении и анализе инцидентов.

Требования:

  • ​​​​​​Опыт от 5-ти лет;
  • AWS Cloud Computing Services (или работа с другим облачным провайдером);
  • RHEL/Debian семейства Linux;
  • Системы управления конфигурациями Terraform, SaltStack;
  • Системы мониторинга и сбора логов Zabbix, Prometheus, Grafana, ELK, Opensearch;
  • Реляционные БД PostgreSQL и MySQL, NoSQL БД Redis;
  • Брокер сообщений Kafka;
  • K8s-кластеры и управление сервисами через Helm;
  • Фреймворки и утилиты безопасности K8s, такие как CIS, NIST, Kubearmor;
  • Сетевые устройства на базе Linux, VPN-сервисы, межсетевые экраны;
  • CI/CD-сервисы — GitHub Actions, SonarQube;
  • Утилиты сборки ПО — Gradle, Maven.

Условия:

  • Стабильный и прозрачный доход: размер заработной платы обсуждается по итогам собеседования;
  • Офис в центре Москвы;
  • Пятидневная рабочая неделя, в пятницу у нас сокращённый рабочий день;
  • Среда для твоего неизбежного развития — сложные и интересные задачи, регулярные тренинги и вебинары, доступ к бесплатным корпоративным библиотекам Альпины и бизнес-изданий, скидки на курсы иностранных языков;
  • Забота о твоём здоровье — программа ДМС со стоматологией и обслуживанием в лучших клиниках города, скидки на абонементы в фитнес-клубы, неформальные спортивные сообщества;
  • Возможности для разнообразного досуга — скидки на услуги туристических агентств, продукты питания, рестораны и бары, магазины и салоны красоты.

HireSeeker собирает вакансии со всех площадок и присылает только релевантные. Бесплатно.