Data Infrastructure & Platform Tech Lead (GigaChat)

За каждым запуском обучения модели стоит масштабная инфраструктура данных, которая должна хранить, обслуживать, версионировать и оркестрировать петабайты данных с высокой пропускной способностью и высокой надёжностью. Команда платформы данных создаёт базовую технологическую основу, на которую опираются все остальные команды, работающие с данными.

В этой роли вы будете отвечать за техническое развитие платформы хранения, вычислений и оркестрации, лежащей в основе полного жизненного цикла данных для претрейнинга. Это техлидская позиция для сильного инженера, который способен проектировать платформенные решения, задавать стандарты для команды, развивать инженерную культуру и помогать коллегам расти.

Роль предполагает высокий уровень технического влияния и может стать естественным шагом к переходу в тимлидскую позицию по мере роста команды.

• Проектировать и развивать масштабные системы хранения данных, оптимизированные под характерные паттерны доступа в претрейне LLM.

• Развивать платформу версионирования и отслеживания происхождения данных, обеспечивающую воспроизводимость и аудит на всём жизненном цикле датасетов.

• Создавать и совершенствовать системы оркестрации workflow-ов, координирующие многоэтапные пайплайны данных на тысячах узлов.

• Оптимизировать инфраструктуру подачи данных так, чтобы обучающие данные поступали на GPU-кластеры без узких мест и с минимальными потерями вычислительного времени.

• Развивать внутренние инструменты, SDK и API, которые упрощают работу исследователей и дата-инженеров с платформой данных.

• Реализовывать механизмы контроля доступа, шифрования и audit logging для работы с чувствительными и лицензированными датасетами.

• Отвечать за capacity planning, оптимизацию затрат и performance benchmarking для облачной и локальной инфраструктуры хранения.

• Формировать технические стандарты платформенной команды: архитектурные подходы, требования к надёжности, эксплуатационные практики, code review и инженерную документацию.

• Менторить инженеров, помогать команде расти технически и распространять экспертизу по платформенной архитектуре и надёжной эксплуатации систем.

• Высшее образование в области computer science, systems engineering или смежной области.

• Не менее 6 лет опыта в infrastructure engineering или platform engineering, включая серьёзный опыт построения data-intensive distributed systems.

• Экспертное знание облачной инфраструктуры, объектного хранения, оркестрации вычислений и сетевых подсистем.

• Уверенное владение как минимум двумя языками из следующих: Python, Rust, C++.

• Глубокий опыт работы с Kubernetes, Infrastructure as Code и CI/CD-пайплайнами.

• Подтверждённый опыт проектирования систем с высокой доступностью, отказоустойчивостью и горизонтальной масштабируемостью.

• Опыт работы с промышленными форматами хранения и сериализации данных и понимание их эксплуатационных компромиссов.

• Способность выступать техническим лидером команды: принимать архитектурные решения, согласовывать платформенные подходы между командами и системно развивать коллег.

• Опыт менторинга и построения сильных инженерных практик внутри команды.

Будет плюсом

• Опыт работы с YTSaurus.

• Опыт поддержки ML training workloads, особенно претрейна на крупных GPU-кластерах.

• Знакомство с инструментами orchestration для data-пайплайнов в промышленном масштабе.

• Опыт создания внутренних платформ разработки и self-service-инструментов для инженерных команд.

• Кластеры YTSaurus с большим количеством ресурсов: десятки петабайт + десятки тысяч ядер.

• Сильная команда выпускников МФТИ, ВШЭ, МГУ, много людей с опытом работы в профильном БигТехе.

• Комфортный современный офис рядом с м. Кутузовская.

• Гибридный формат работы (2 дня в офисе, 3 дня на удалёнке).

• Ежегодный пересмотр зарплаты, годовая премия.

• Корпоративный спортзал и зоны отдыха.

• Система обучения для профессионального и карьерного развития.

• Расширенный полис ДМС с первого дня работы и страхование для семьи.

• Льготная программа ипотеки для сотрудников.

• Бесплатная подписка СберПрайм+, скидки на продукты компаний-партнёров.

• Вознаграждение за рекомендацию друзей в команду Сбера.