Старший Data Scientist, Факторы ранжирования LLM

Мы ищем руководителя, с сильным техническим бэкграундом, который возглавит команду, определит архитектуру и обеспечит техническую реализацию проекта по направлению «Генеративный ИИ». Проект охватывает все этапы от исследования до промышленного внедрения.

Обязанности:

• Формирование и развитие команды: активный найм, онбординг, менторство, создание культуры инженерного совершенства;

• Техническое лидерство: проектирование архитектуры проекта (от инфраструктуры до кода), выбор технологического стека, ревью ключевых решений, контроль качества;

• Управление жизненным циклом моделей: координация процессов pre-training, SFT, RLHF/DPO, оценка качества (eval), мониторинг экспериментов;

• Оптимизация MLOps-пайплайнов: проектирование и автоматизация конвейеров данных, обучения, валидации и развертывания; обеспечение воспроизводимости экспериментов;

• Ресурсное планирование: распределение GPU-ресурсов, управление очередями заданий, оптимизация утилизации оборудования (включая I/O и память);

• Информационная безопасность: разработка и внедрение политик безопасной работы с данными и моделями в закрытом контуре, контроль соответствия требованиям ИБ;

• Взаимодействие со стейкхолдерами: координация с смежными командами и бизнес-подразделениями, регулярная отчетность о статусе и рисках.

Требования:

• Опыт работы в области ML / NLP от 5 лет, из них не менее 2 лет — на руководящих позициях (Team Lead, Tech Lead, Engineering Manager);

• Глубокое понимание архитектуры трансформеров, принципов обучения и инференса LLM;

• Практический опыт распределенного обучения (Distributed Training) с использованием DeepSpeed, Megatron-LM, FSDP, Ray;

• Уверенное владение Python, PyTorch, экосистемой Hugging Face;
• Опыт построения MLOps-пайплайнов на Kubernetes, Airflow и CI/CD;
• Понимание принципов работы с высоконагруженной GPU-инфраструктурой (оптимизация I/O, мониторинг, работа с очередями);

• Знание основ информационной безопасности при обработке больших данных в закрытых контурах;
• Опыт управления командой от 5 человек: найм, адаптация, постановка целей, развитие сотрудников.

Будет плюсом:

• Опыт запуска LLM-систем в production с нуля;

• Работа с узкоспециализированными (доменными) данными;

• Опыт оптимизации моделей: квантизация, дистилляция, pruning.

Условия:

• Работа в аккредитованной IT-компании (льготная ипотека и проч.);
• Оформление по ТК РФ и его полное соблюдение (оплачиваемые отпуска, больничные);
• ДМС со стоматологией с первых недель работы.

Привет! Мы команда разработки систем технического зрения. Развиваем технологии компьютерного зрения для автоматизации складских процессов Ozon. Наши решения работают с реальными видеопотоками и ML-моделями в продакшене, помогая повышать операций и снижать влияние человеческого фактора.

Ищем специалиста, который будет создавать и развивать CV-системы — от выбора алгоритмов до внедрения в промышленную эксплуатацию.

Вы будете

• Разрабатывать и улучшать модели компьютерного зрения (детекция, классификация, трекинг, сегментация).
• Подбирать алгоритмы и подходы под прикладные задачи, проводить эксперименты и оценивать качество моделей.
• Оптимизировать модели и алгоритмы для эффективной и быстрой работы на больших объёмах данных в production.
• Проектировать и оптимизировать inference-пайплайны, включая real-time сценарии.
• Разрабатывать ML- сервисы и работать с микросервисной архитектурой (Python).
• Анализировать производительность решений и находить узкие места - от моделей до инфраструктуры.
• Работать с видеопотоками и создавать high-load системы обработки данных.
• Взаимодействовать с инженерами и разработчиками на всех этапах - от исследования до продакшена.

Нам важно

• Высшее образование в области математики, компьютерных наук или смежных технических дисциплин.
• Уверенное знание Python и опыт промышленной разработки.
• Практический опыт в Computer Vision или Machine Learning.
• Понимание классических алгоритмов CV и современных ML-подходов.
• Знание основных метрик качества моделей и методов их валидации.
• Хорошую алгоритмическую базу (структуры данных, оценка сложности).
• Навыки написания чистого, поддерживаемого кода и работы с Git.

Будет плюсом

• Опыт работы с GPU (Nvidia, CUDA, TensorRT).
• Опыт построения real-time систем или оптимизации latency.
• Опыт deployment и применения MLOps-практик.
• Опыт работы с видеопотоками (RTSP/RTP) или потоковыми системами обработки данных.
• Опыт разработки high-load сервисов.
• Знание C++ для performance-критичных компонентов.
• Опыт работы с Airflow, Docker, Kubernetes или аналогичной инфраструктурой.
• Знание SQL и опыт работы с БД.
• Навыки написания unit- и integration-тестов.
• Английский язык на уровне чтения технической документации.

Наша CV команда создает лучший в Сбере продукт для автоматического распознавания документов, используя самые передовые технологии. Главными задачами для нас являются разработка и улучшение OCR-модели на базе VLM, сбор обучающих данных с использованием кастомного agentic harness, и развёртывание клиентского сервиса внутри банка. Мы ищем Middle/Senior инженера, который будет заниматься полным циклом обучения и деплоя продукта.

• изучать SOTA подходы к OCR: чтение свежих пейперов в сфере e2e OCR, адаптация подходов data mining, SFT/RL, гипотезы

• ставить эксперименты по обучению VLM-моделей: проверка гипотез на multi-node сетапе, замер метрик на внешних и внутренних бенчмарках.

• дорабатывать пайплайн обучения: улучшение репозитория на текущем стеке (accelerate, TRL) - ускорение обучения, добавление аугментаций, адаптация под новые модели

• собирать обучающие данных: агрегация существующих и новых данных в требуемом формате MarkDown, поиск новых доменов, написание скриптов по загрузке

• размечать датасеты: запуск процесса разметки для вновь собранных или существующих данных при помощи кастомного agentic harness сборщика разметки (а также его улучшение), или внутренней платформы разметки асессорами

• адаптировать сервис: интеграция обученных моделей в сервис на основе vLLM для сёрвинга клиентам внутри банка.

• высшее образование: математика, информатика или профильный data science

• 3+ лет в ML, из них не меньше года лет с LLM/VLM в проде

• английский для чтения статей и документации

• Fine-tuning: SFT, LoRA/QLoRA, RL (DPO, GRPO)

• современные движки инференса: vLLM, sgLang, triton

• опыт работы с VLM: понимание принципов работы, дообучения, основных ограничений

• агентные пайплайны: вызовы моделей, обработка исключений, ограничение стоимости

• опыт в разметке датасетов асессорами, или автоматическими инструментами

• Python: пишете код, который уходит в прод. Тесты, ревью, код-стайл

• специфика банка: много контрагетов, с ними нужно иногда коммуницировать

**Будет плюсом**

• опыт python-бэкендера: FastAPI, асинхронность, очереди, PostgreSQL, векторные хранилища

• работа с разметчиками и контрагентами

• публикации, доклады, open source.

• комфортный современный офис - м. Кутузовская

• гибридный формат работы

• ежегодный пересмотр зарплаты, годовой бонус

• корпоративный спортзал и зоны отдыха

• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития

• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа

• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ

• подписка Прайм с возможностью совместного использования на трёх близких

• вознаграждение за рекомендацию друзей в команду Сбера

• корпоративная пенсионная программа.