Инженер по машинному обучению (Python)

Мы развиваем GigaChat и ищем сильного руководителя направления ML pretrain больших языковых моделей. Недавно мы обучили MoE-модель на 700 миллиардов параметров и не собираемся останавливаться — обучение идёт на кластерах H100 и B200, а pretrain является ядром самого быстрорастущего AI-проекта Сбера.

Это роль для человека, который возьмёт на себя архитектурную часть pretrain: design моделей, законы масштабирования, выбор и адаптация attention / MoE / позиционных схем, а также все архитектурные решения, которые определяют, какой именно будет следующая флагманская модель GigaChat.Нам нужен не просто менеджер, а сильный технический руководитель, который способен глубоко погружаться в детали, самостоятельно собирать ключевые части решения и доводить архитектурные идеи до реального роста качества модели на масштабе.

• Развивать архитектуру моделей GigaChat

• Определять, как должна развиваться архитектура pretrain-моделей: какие направления наиболее важны, как измерять прогресс и что в первую очередь ограничивает рост качества модели.

• Проектировать архитектуру флагманских моделей и отвечать за ключевые архитектурные решения: attention, позиционные схемы (RoPE и варианты), нормализации, активации, инициализация.

• Развивать MoE-архитектуру: маршрутизация, балансировка экспертов, устойчивость маршрутизатора, влияние на качество и производительность.

• Работать с long-context и мультимодальностью на уровне архитектуры: что именно нужно менять в модели, чтобы эти возможности работали стабильно.

• Изучать и применять законы масштабирования

• Проводить scaling-эксперименты и на их основе принимать решения по размеру модели, ширине / глубине, числу и размеру экспертов, размерам батча и длительности обучения.

• Предсказывать, как архитектурные изменения поведут себя при переходе с небольших абляций на полный масштаб.

• Определять и развивать метрики, которые корректно отражают архитектурные изменения в обучении моделей.

• Определять, в каких случаях архитектурные изменения действительно дают прирост качества по сравнению с более простыми baseline'ами, а в каких — нет.

• Анализировать стабильность архитектурных решений

• Разбираться с нестабильностью на больших прогонах со стороны архитектуры: почему конкретная конфигурация расходится, где проявляются артефакты маршрутизации, коллапс энтропии, неустойчивости в attention.

• Предлагать изменения в нормализациях, клиппинге, точности вычислений и структуре блоков, которые делают обучение более предсказуемым.

• Обеспечивать безопасное масштабирование при внедрении крупных архитектурных изменений в основной трейн.

• Писать ключевой код и оставаться сильным исследователем

• Самостоятельно писать и дорабатывать архитектурные компоненты и абляции.

• Делать надёжные и воспроизводимые эксперименты: понятные версии данных, конфиги, сравнение запусков, контроль деградаций.

• Читать статьи, воспроизводить ключевые результаты и адаптировать лучшие идеи под наши задачи и инфраструктуру.

• Оставаться сильным инженером и исследователем, а не только руководителем: при необходимости самому разбирать узкие места в коде, экспериментах и настройках обучения.

• Руководить сильной технической командой

• Руководить командой исследователей и инженеров, работающих над архитектурой, задавать высокую планку по качеству решений, скорости работы и глубине проработки.

• Помогать команде превращать архитектурные идеи в работающие решения, которые можно встроить в основной цикл обучения.

• Удерживать баланс между глубиной исследований, инженерной надёжностью и практическим результатом для модели.

• Отличное владение Python и PyTorch.

• Глубокое понимание устройства обучения нейросетей: не на уровне обзоров, а на уровне, где вы можете объяснить, почему конкретная архитектурная конфигурация расходится, глядя на кривые функции потерь, нормы градиентов и энтропии.

• Глубокое понимание архитектуры LLM: Transformer, attention (MHA/GQA/MLA), RoPE и варианты позиционных эмбеддингов, нормализации, инициализации, long-context, MoE.

• Практический опыт с обучением больших моделей (а не только инференсом) и проведением архитектурных абляций.

• Способность самостоятельно взять направление и довести его до результата: от чтения статей и постановки гипотез до внедрения в основной трейн.

• Умение ставить гипотезы, проектировать эксперименты и принимать решения на основе результатов.

• Опыт руководства сильной технической командой и готовность лично писать важные части системы руками.

Будет плюсом

• Опыт работы с MoE-архитектурами: маршрутизатор, балансировка нагрузки, переполнение, артефакты маршрутизации.

• Опыт проведения scaling-экспериментов и работы с законами масштабирования.

• Опыт работы с long-context и мультимодальными расширениями LLM.

• Опыт работы с distributed training (5D-параллелизм: DP/TP/PP/EP/SP) и large-scale инференсом.

• Публикации, open-source вклад или сильный прикладной research track record.

• Понимание современных open-source стеков для обучения больших языковых моделей.

• Сильные и сложные задачи на переднем крае развития русскоязычных LLM.

• Большую степень влияния на архитектуру решений, методы обучения и качество итоговой модели.

• Команду сильных инженеров и исследователей.

• Возможность совмещать управление направлением с глубокой технической работой.

• Конкурентную компенсацию, премии и расширенный соцпакет.

Мы - команда инференса GigaChat. Всё, что модель отвечает пользователю, проходит через наш движок - и наша работа в том, чтобы это происходило быстро, дёшево и не падало никогда.У нас нет опции «подождём, пока это появится в vLLM». GigaChat - это свои архитектуры и свои мультимодальные модели, и когда исследователи приносят новую архитектуру, именно мы делаем так, чтобы она летала на проде: пишем ядра, придумываем, как разложить её по GPU, выжимаем токены в секунду там, где, казалось бы, выжимать уже нечего.Это работа, где результат меряется в миллисекундах и мегаваттах: каждый процент ускорения - это тысячи GPU-часов и реальные деньги. И где между «прочитал свежую статью» и «это крутится на проде под нагрузкой» проходят недели, а не годы.

Обязанности

Чем предстоит заниматься:

• Заставлять новые архитектуры GigaChat (включая мультимодальные) работать на проде быстро
• Ускорять всё, что можно ускорить: кастомные CUDA-ядра, квантизация, speculative decoding, оптимизации KV-cache, continuous batching — и то, чему ещё нет устоявшегося названия
• Придумывать, как разложить большую модель по GPU и по кластеру так, чтобы ни один FLOPS не простаивал: тензорный/пайплайн-параллелизм, disaggregated prefill/decode, шедулинг запросов
• Профилировать честно и глубоко: находить, куда на самом деле уходят миллисекунды — в ядре, в раскладке памяти, в сети или в планировщике — и убирать это
• Держать прод: движок, через который проходят все запросы к GigaChat, должен успешно переживать абсолютно всё
• Читать свежие статьи и код лучших движков (vLLM, SGLang, TensorRT-LLM) не как пользователь, а как конкурент: понимать, что у них хорошо, и делать у себя лучше — с поправкой на наши архитектуры

Требования

• опыт работы в области глубокого обучения, в том числе с LLM
• глубокое знание CUDA и Python
• опыт использования GigaChat, Kandinsky и аналогов в продуктах
• навыки создания и использования AI-агентов.

Условия

• комфортный современный офис рядом с м. Кутузовская
• возможность выбрать удобный график – офис/гибрид/удаленка (в РФ)
• годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• ипотека для сотрудников по дисконтной прогамме
• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
• вознаграждение за рекомендацию друзей в команду Сбера.

Чем предстоит заниматься:

• Создавать и развивать AI-ассистентов для разработки и аналитики: кодовые AI ассистенты для автоматизации разработки, помощник аналитика для ускорения экспериментов с использованием LLM.
• Проектировать архитектуру агентских решений и их интеграцию с платформой: определять, что остаётся доменной логикой, а что становится переиспользуемым компонентом платформы.
• Совместно с командой MLOps формировать требования к платформенным примитивам (Embedding Service, Vector Store, Retrieval/Search API) и внедрять их в пайплайны ассистентов.
• Проектировать и развивать систему оценки агентов: разрабатывать метрики, строить симуляции, изолированные и верифицируемые среды оценки.
• Вести полный цикл разработки: от ресёрча и MVP до поддержки и развития решения – с анализом ошибок и фидбека пользователей.
• Исследовать новые подходы в разработке AI-агентов: harness-среда агента, память, компактизация контекста.

Мы ожидаем:

• Опыт промышленной ML-разработки от 5 лет, опыт с LLM от 3 лет.
• Опыт разработки AI-агентов и понимание современных паттернов проектирования: память, планирование, циклы агента, tool use, structured output.
• Владение Python, способность системно писать код и доводить решения до продакшена.
• Ежедневное использование кодинг AI-ассистентов (Codex / Claude Code): понимание их внутреннего устройства, границ применимости, настроенный цикл разработки.
• Опыт разработки RAG-систем: retrieval, чанкование, sparse / dense / hybrid поиск, reranking, agentic retrieval.
• Понимание основ ML/DL и NLP: метрики качества, embeddings, устройство трансформеров, инференс LLM.
• Знание алгоритмов и структур данных, опыт работы со стеком (FastAPI, Docker, Redis, Postgres, Airflow, vLLM).

Мы предлагаем:

• ДМС со стоматологией, телемедициной и программой поддержки ментального здоровья;
• Страхование жизни;
• Ежемесячные промокоды на Lamoda: два по 25%, два по 15% и в день рождения — 40%;
• Программа привилегий и скидок от BestBenefits;
• До 15 дней больничного в год оплачиваем в размере 100% от действующего оклада;
• Бесплатные юридические консультации;
• Дополнительные выходные в случае важных событий;
• Яркие мероприятия и много неформального общения.

Развитие для каждого:

• Опытный наставник для каждого новичка;
• Обучение и участие во внешних конференциях;
• Помогаем развивать личный бренд, выступать на конференциях и писать статьи;
• Performance Review дважды в год, чтобы развиваться системно;
• Проводим митапы и demo-дни для обмена знаниями;
• Погружаем в fashion и каждый сезон знакомим с модными трендами.