СБЕР

Senior DL/LLM Engineer (Ускорение Rollout (Python)

Мы развиваем GigaChat и ищем сильного инженера в команду RL efficiency, который возьмёт на себя ускорение rollout — этапа, на котором модель генерирует траектории во время online RL обучения и который часто становится главной проблемой RL-…

СБЕР

↑ Вакансия с автоподнятием
Зарплата не указанаРоссияМоскваГибрид

Мы развиваем GigaChat и ищем сильного инженера в команду RL efficiency, который возьмёт на себя ускорение rollout — этапа, на котором модель генерирует траектории во время online RL обучения и который часто становится главной проблемой RL-пайплайна.

Это роль для человека, который умеет одновременно разбираться в инференсе LLM, обучающем контуре и в том, как правильно стыковать их между собой, чтобы online RL обучение GigaChat работало быстро, стабильно и с максимальной утилизацией кластера.

Нам нужен не просто исполнитель задач, а инженер с сильным исследовательским мышлением, который способен самостоятельно разбираться в сложных системах, предлагать новые решения и нести ответственность за результат.

  • ускорять rollout в online RL

  • оптимизировать генерацию rollout'ов: throughput, latency, утилизация GPU, batch-планирование, continuous batching

  • повышать эффективность работы инференс-движков (vLLM / SGLang / собственные решения) под задачи RL: длинные контексты, многократные запросы, динамический batch

  • работать с KV-cache: переиспользование, квантизация, offload, управление памятью при параллельных rollout'ах.

  • оптимизировать inference для MoE-моделей и специфичных для GigaChat архитектур

  • выстраивать связку rollout и обучения

  • строить эффективный обмен весами между обучающим контуром и rollout-движком: быстрое обновление, минимизация overhead

  • выстраивать overlap между rollout, reward-сигналами и шагами обучения, чтобы GPU не простаивал

  • поддерживать работу rollout на масштабе: десятки и сотни узлов, стабильность при сбоях, автоматическое восстановление

  • обеспечивать согласованность между моделью в обучении и в rollout: точность, токенизация, семплирование

  • профилировать и оптимизировать стек

  • находить узкие места в rollout-пайплайне с помощью профилирования на уровне kernel, memory, communication

  • писать кастомные оптимизации под H100 / B200 и эффективно использовать возможности hardware

  • выстраивать бенчмарки и регрессии по перфу rollout, чтобы улучшения были воспроизводимыми и стабильно держались в продакшене

  • тесно взаимодействовать с командами RL, pretrain, инфраструктуры и бэкенда

  • брать на себя ответственность за целые куски системы: от идеи до результата в проде

  • делиться знаниями, участвовать в код-ревью, помогать поднимать общую планку качества.

  • отличное владение Python и PyTorch

  • практический опыт с large-scale inference LLM: vLLM, SGLang, TRT-LLM или аналоги

  • глубокое понимание того, как устроен инференс трансформеров: KV-cache, attention, batching, семплирование

  • опыт оптимизации throughput и latency на GPU: профилирование, устранение узких мест, работа с памятью

  • понимание distributed training и того, как стыковать обучение и инференс в одном пайплайне

  • умение писать чистый, надёжный, production-ready код и разбираться в сложных системах.

Будет плюсом:

  • практический опыт с online RL / RLHF / RLVR и пониманием специфики rollout в этих пайплайнах

  • опыт написания CUDA / Triton ядер и понимание архитектуры NVIDIA GPU

  • опыт оптимизации инференса для MoE-моделей

  • опыт работы с современными RL-стеками: verl, TRL, OpenRLHF

  • понимание архитектуры LLM: Transformer, attention (MHA/GQA/MLA), long-context, RoPE

  • публикации, open-source вклад или сильный прикладной track record.

  • возможность выбрать удобный формат работы: гибрид или офис

  • ежегодный пересмотр зарплаты, годовая премия

  • корпоративный спортзал и зоны отдыха

  • более 400 образовательных программ СберУниверситета для профессионального и карьерного развития

  • расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа

  • ипотека выгоднее до 7% для каждого сотрудника

  • бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров

  • вознаграждение за рекомендацию друзей в команду Сбера.

Похожие вакансии Data Science & ML

hh.ru
AI Think

Инженер машинного зрения (Computer Vision Engineer)

AI Think
80k–110k ₽РоссияМоскваУдалёнка

О компании

AI Think — российская технологическая компания, которая разрабатывает программные решения на базе искусственного интеллекта. Наши технологии помогают предприятиям оптимизировать производственные процессы, снижать издержки и автоматизировать сложные задачи.

Основное направление — прикладные AI-решения для бизнеса: системы анализа данных, интеллектуальные алгоритмы и промышленные системы компьютерного зрения.

AI Think — аккредитованная ИТ-компания. Она входит в реестр Минцифры России и в реестр технологических компаний Москвы.

О проекте

Мы разрабатываем TAQC — систему автоматического поиска пороков ткани на основе компьютерного зрения и искусственного интеллекта.

Система анализирует поток изображений ткани с линейных камер машинного зрения, установленных прямо на производственных машинах. Она автоматически выявляет дефекты и помогает текстильным предприятиям контролировать качество продукции и снижать потери. Основной промышленный объект проекта — предприятие «Чайковский Текстиль».

Сейчас в системе работает детектор дефектов на базе YOLO. Параллельно мы разрабатываем многоэтапное решение для обнаружения и классификации дефектов:

  • На первом этапе модель anomaly detection находит отклонения от нормального рисунка ткани (pattern deviation).
  • На втором этапе модель классификации определяет тип дефекта.

Вам предстоит продолжить развитие этого направления: улучшать качество обнаружения дефектов, снижать количество ложных срабатываний, оптимизировать модели и доводить решения до промышленного применения.

Чем предстоит заниматься

  • Дорабатывать, оптимизировать и выпускать в production систему обнаружения аномалий (pattern deviation) и классификации дефектов.
  • Поддерживать и улучшать текущую модель детекции на базе YOLO.
  • Исследовать, тестировать и внедрять новые подходы к anomaly detection и другим задачам компьютерного зрения.
  • Подбирать, адаптировать и комбинировать модели компьютерного зрения для решения задач контроля качества ткани.
  • Разрабатывать собственные алгоритмы и внутренние инструменты для решения нестандартных задач анализа изображений.
  • Разрабатывать и улучшать алгоритмы поиска краёв ткани на изображениях.
  • Разрабатывать алгоритмы оценки разнооттеночности ткани — неравномерности окраса и оттенка.
  • Подготавливать и анализировать датасеты, подбирать аугментации, самостоятельно размечать данные в небольшом объёме.
  • Координировать работу разметчиков: ставить задачи, составлять инструкции и контролировать качество разметки.
  • Проводить эксперименты, анализировать результаты обучения и оценивать качество моделей на реальных производственных данных.
  • Искать способы снижения ложных срабатываний и пропусков дефектов с учётом требований производства.
  • Удалённо участвовать в калибровке и настройке камер машинного зрения перед установкой новых систем.
  • Взаимодействовать с командой разработки, представителями заказчика и менторами-экспертами в области лёгкой промышленности.

Условия работы

  • Полностью удалённая работа из любой точки мира.
  • График работы — 5/2.
  • Зарплата: 80 000 – 110 000 рублей на руки.
  • Работа в инженерной команде, которая занимается прикладными AI-решениями.

Онбординг и развитие

  • Подробный онбординг. На старте вас ждёт полноценное погружение в проект и передача дел от текущего computer vision специалиста: архитектура системы, модели, датасеты, процессы разметки и история экспериментов.
  • Обучение отрасли. Отраслевые менторы помогут разобраться в особенностях лёгкой промышленности и типах дефектов тканей.
  • Погружение в железо. Если у вас нет опыта работы с камерами машинного зрения, мы научим. Важно быть готовым глубоко погрузиться в тему и разобраться, как всё устроено на уровне камер: оптика, освещение, параметры съёмки, калибровка.
  • Карьерный рост. После погружения у вас будет возможность самостоятельно возглавить направление computer vision. Следующий шаг - рост до руководителя отдела с наймом специалистов и построением собственной команды.

Требования

Общий уровень

  • Уровень: Middle.
  • От 1 года коммерческого опыта разработки или исследований в области computer vision / machine learning.

Computer Vision и Machine Learning

  • Практический опыт решения задач компьютерного зрения: object detection, image classification, segmentation или anomaly detection.
  • Понимание методов обнаружения аномалий на изображениях: PatchCore, PaDiM, автоэнкодеры и другие подходы.
  • Понимание принципов работы архитектур нейронных сетей для задач компьютерного зрения, знакомство с различными подходами к детекции объектов: YOLO, Faster R-CNN, DETR и другими.
  • Знание математических основ машинного обучения.
  • Практический опыт обучения и дообучения моделей компьютерного зрения, умение подбирать подходящие архитектуры под конкретные задачи.
  • Понимание процесса обучения нейронных сетей, роли основных гиперпараметров и умение обоснованно подбирать их в зависимости от задачи и результатов экспериментов.
  • Знание основных метрик качества моделей компьютерного зрения, умение интерпретировать их и выбирать критерии оценки с учётом требований бизнеса, допустимого уровня ложных срабатываний и пропусков дефектов.
  • Умение формулировать и проверять гипотезы, проводить эксперименты, анализировать результаты обучения и делать обоснованные выводы для улучшения моделей.
  • Готовность самостоятельно разрабатывать алгоритмы и искать решения нестандартных задач, а не только применять готовые подходы.

Классическая обработка изображений

  • Опыт применения классических алгоритмов обработки изображений: выделение границ и контуров, фильтрация, морфологические операции.
  • Понимание цветовых пространств: RGB, HSV, Lab.
  • Знание основных подходов к анализу цвета и текстуры изображений.

Работа с данными

  • Опыт подготовки и анализа датасетов, понимание особенностей работы с несбалансированными данными и умение выстраивать соответствующие пайплайны обучения.
  • Умение подбирать и применять аугментации с учётом специфики данных, особенностей отдельных классов и характера дефектов.
  • Понимание процессов разметки данных и опыт работы с инструментами разметки: CVAT, Label Studio или аналогами.
  • Умение оценивать качество и репрезентативность данных, выявлять проблемы датасета, способные повлиять на результаты обучения.

Инструменты и технологии

  • Уверенное владение Python.
  • Опыт работы с ML-фреймворками: PyTorch, Ultralytics / YOLO или аналогами.
  • Опыт работы с библиотеками обработки изображений: OpenCV, NumPy, scikit-image или аналогами.

Современные инструменты разработки

  • Широкий кругозор в области AI-разработки.
  • Понимание современных подходов: agent-based coding, построение AI-pipeline, использование AI-инструментов в разработке.

Коммуникация

  • Умение выстраивать работу с разработчиками, заказчиком и отраслевыми экспертами.
  • Умение понятно объяснять технические решения людям без ML-бэкграунда.

Будет огромным плюсом

  • Опыт работы с текстилем или в лёгкой промышленности. Он не обязателен: мы готовы обучить всем особенностям отрасли и типам дефектов.
  • Опыт работы с камерами машинного зрения, в том числе линейными, их калибровкой и настройкой параметров съёмки. Если опыта нет, научим, но потребуется готовность глубоко погрузиться в тему.
  • Опыт оптимизации моделей для промышленного применения: ONNX, TensorRT, квантизация или аналогичные подходы.
  • Опыт работы с задачами контроля качества на производстве.
  • Знакомство с few-shot и zero-shot подходами к обнаружению аномалий или интерес к их изучению и практическому применению.
  • Опыт организации и контроля работы разметчиков.

Как проходит собеседование

Собеседование проходит в один этап и длится около часа. На одной встрече мы:

  • Познакомимся и расскажем о проекте и условиях работы.
  • Обсудим ваш опыт в computer vision и machine learning.
  • Поговорим о подходах к обучению моделей, работе с данными, оценке качества и решении практических задач обработки изображений.

Как откликнуться

Отправьте отклик с кратким описанием вашего опыта в machine learning и computer vision. Будет полезно указать:

  • С какими задачами компьютерного зрения вы работали.
  • Какие модели и фреймворки использовали.
  • Опыт обучения, дообучения и оптимизации моделей.
  • Опыт работы с anomaly detection.
  • Опыт подготовки датасетов, работы с несбалансированными данными, аугментациями и разметкой.
  • Опыт работы с классическими алгоритмами обработки изображений.
  • Опыт работы с камерами машинного зрения, если он есть.
  • Примеры собственных алгоритмов или инструментов, которые вы разработали.
  • Участие в прикладных проектах или исследованиях.

Также можно приложить GitHub, портфолио или примеры проектов.

hh.ru
СБЕР

Middle/Senior AI Engineer (LLM&AI Agents)

СБЕР
Зарплата не указанаРоссияМоскваОфис

AI-команда блока развития клиентского опыта B2C приглашает опытного AI-инженера для участия в создании AI-агентов и LLM-решений, которые улучшают взаимодействие с клиентами - как внешними, так и внутренними пользователями Сбера.

Мы строим передовые AI-инструменты на основе LLM, автоматизируем процессы и делаем сервисы персонализированными. Вы станете ключевым участником команды, которая внедряет AI-решения в реальные бизнес-процессы.

Наше управление состоит из 45+ специалистов: Data Scientists, AI и ML-инженеров, MLOps и Project-менеджеров. Мы активно развиваем решения на базе LLM, трансформируя клиентский опыт.

Обязанности

  • разрабатывать и внедрять LLM-пайплайны и AI-агентов: от генерации идеи и сборки MVP до успешного запуска в продакшн
  • дообучать LLM (на базе GigaChat) под конкретные бизнес-задачи и предметные области (Fine-tuning, LoRA)
  • оборачивать разработанные модели и бизнес-логику в надежные микросервисы на Python
  • переводить бизнес-потребности на язык машинного обучения и предлагать оптимальные архитектурные решения.

Требования

  • опыт: от 3 лет в Data Science или NLP с уверенным практическим применением LLM
  • LLM & Agents: опыт разработки LLM-пайплайнов, RAG-систем или AI-агентов. Знание основных фреймворков: LangChain, LangGraph или аналогов
  • NLP & ML: глубокое понимание NLP - от классических подходов (TF-IDF) до современных трансформеров и LLM; знание основных принципов и алгоритмов классического ML
  • Python Backend: понимание принципов проектирования микросервисной архитектуры (REST API); опыт написания асинхронных и многопоточных приложений (aiohttp, asyncio, multiprocessing)
  • Инженерная культура: умение писать чистый, поддерживаемый и тестируемый код на Python
  • Владение Git, SQL, Bash, Docker.

будет плюсом:

  • опыт интеграции AI-агентов и ML-моделей в высоконагруженные сервисы
  • интерес к SOTA-подходам в агентной разработке
  • практическое применение фреймворка DeepAgents в PET проектах
  • опыт работы с Kubernetes.

Условия

  • комфортный современный офис рядом с м. Кутузовская
  • гибридный формат работы
  • ежегодный пересмотр зарплаты, квартальная и годовая премия
  • корпоративный спортзал и зоны отдыха более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
  • программа адаптации и помощь руководителя на старте
  • расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
  • гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
  • подписка Прайм с возможностью совместного использования на трёх близких
  • вознаграждение за рекомендацию друзей в команду Сбера.
hh.ru
Зарплата не указанаРоссияМоскваОфис
Обязанности:
  • Управлять стратегическим развитием модельных решений и их применением в кредитовании МСБ
  • Формировать техническое задание на разработку моделей для кредитного процесса МСБ, координировать процесс разработки со стороны заказчика (риски МСБ), осуществлять приемку моделей
  • Поддерживать процедуру первичной и ежегодной валидации со стороны заказчика с целью получения репрезентативной оценки моделей с учетом особенностей бизнес-процесса применения данных моделей, устранять выявленные замечания и риски
  • Ставить техническое задание на применение моделей в Системе принятия решений (СПР), в т.ч. устанавливать уровни отсечения по моделям и калибровочные коэффициенты
  • Формировать задание на мониторинг моделей с учетом специфики бизнес-процесса применения, осуществлять приемку дашбордов, контролировать качество моделей и анализировать отклонения, информировать руководство и портфельную команду о всех существенных рисках/изменениях, проактивно реагировать на сигналы мониторинга
  • Формировать стандарт оценки финансового эффекта от применения моделей в кредитовании МСБ, согласовывать его с заинтересованными подразделениями, проводить в соответствии с ним оценку новых и действующих моделей
  • Взаимодействовать с риск‑менеджерами, IT, финансовым департаментом и другими подразделениями для согласования требований и оценки модельных рисков
  • Поддерживать портфель моделей, внедрять лучшие практики ML/AI и обеспечивать соответствие регуляторным требованиям

Требования:
  • Опыт работы по направлению 3-5 лет ( из которых на руководящей должности 1-3 года)
  • Уверенное владение теорией моделирования риск-моделей / поведенческих моделей продвинутой аналитики, ценообразования кредитного бизнеса (фондирование, резервирование, lifetime доходность, прибыль, EROA, EROE, NCL)
  • Опыт внедрения решений на базе ML, участие в построения клиентских поведенческих моделей и внедрения в бизнес-процессы
  • Уверенное владение Excel с макросами, Python, Sql
  • Знание регуляторных требований ЦБ РФ к моделям кредитного риска
  • Понимание стандартов МСФО 9 в части оценки обесценения финансовых активов
  • Знание принципов управления модельными рисками (Model Risk Management)

Условия:
  • Стабильный и прозрачный доход: размер заработной платы обсуждается по итогам собеседования
  • Работа в гибридном графике
  • Карьерный рост: ты будешь понимать, что нужно сделать для перехода на другой уровень
  • Чувство локтя: у нас дружелюбная атмосфера и команда лучших профессионалов, которые готовы делиться с тобой экспертизой
  • Забота о твоем здоровье: программа ДМС, куда входит стоматология и обслуживание в лучших клиниках города, скидки на абонементы в фитнес-клубы, неформальные спортивные сообщества
  • Возможности для разнообразного досуга: скидки на услуги туристических агентств, продукты питания, в рестораны и бары, в магазины и салоны красоты
  • Предложения от банка только для сотрудников: льготные условия обслуживания карты Cash Back и другие предложения

HireSeeker собирает вакансии со всех площадок и присылает только релевантные. Бесплатно.