альфа-банк. центральный офис

Старший инженер данных (Python)

Разработка и сопровождение высоконагруженных пайплайнов расчёта признаков в Feature Store: витрины, агрегаты, таргеты;

альфа-банк. центральный офис

Зарплата не указанаРоссияМоскваУдалёнка
Чем предстоит заниматься:
  • Разработка и сопровождение высоконагруженных пайплайнов расчёта признаков в Feature Store: витрины, агрегаты, таргеты;
  • Проектирование сложных пайплайнов, новых витрин и интеграция новых источников;
  • Подготовка данных в DataLake, SandBox и Feature Store по требованиям DS-команд и бизнес-направлений;
  • Вывод признаков в онлайн-контур (Cassandra);
  • Оптимизация производительности Spark-приложений, контроль потребления ресурсов кластера;
  • Поддержка стабильности пайплайнов в проде: мониторинг, разбор инцидентов, восстановление данных;
  • Проведение code review всех инженеров до уровня Senior, апрув изменений алгоритмов расчёта;
  • Наставничество Junior-и Middle-инженеров;
  • Разработка и актуализация документации;
  • Отражение статусов задач в Jira;
  • Участие в развитии платформы Feature Store и миграции на новую инфраструктуру.
Наши пожелания к кандидатам:
  • Python: уверенное знание структур данных и алгоритмов, ООП и функциональный подход, модульные и интеграционные тесты (pytest), поддерживаемый код (типизация, линтеры, pre-commit);
  • PySpark: разработка сложных высоконагруженных приложений (от сотен ГБ до ТБ). Глубокое знание настроек Spark и их влияния на производительность: партиционирование, shuffle, skew, broadcast join, AQE, память экзекуторов, параллелизм. Умение обосновать конфигурацию под объём данных, диагностирует spill и неэффективное использование ресурсов;
  • Экосистема Hadoop: HDFS, Hive, Impala, Hive Metastore, форматы хранения (Parquet, ORC), влияние размера и количества файлов на производительность;
  • SQL: сложные запросы с оконными функциями, чтение плана выполнения и оптимизация в Hive, Impala, Spark SQL;
  • Airflow: разработка, планирование и мониторинг пакетных пайплайнов — зависимости между DAG, сенсоры, пулы, backfill, перезапуск после сбоя;
  • Подготовка данных для ML: временные агрегаты, point-in-time корректность, data leakage, исторические срезы для обучения. Умение объяснить это DS-команде, наличие опыта работы с DS как заказчиками;
  • Git (BitBucket или аналог), опыт регулярного code review.
  • Плюсом: Cassandra или другое key-value хранилище для онлайн-выдачи признаков, опыт работы с Feature Store (самописный, Feast, Tecton, Chronon), Iceberg и S3 - DuckDB, pandas, Polars для локальной обработки и прототипирования.
Что мы предлагаем:
  • Стабильный и прозрачный доход: оклад + квартальная премия;
  • Возможен удаленный формат работы или гибрид;
  • Сложные и интересные задачи, современный стек технологий;
  • Возможность вертикального и горизонтального карьерного роста: регулярно проходят тренинги, вебинары, митапы и демо-дни;
  • Доступ к бесплатным корпоративным библиотекам Alpina Digital, MyBook и бизнес-изданий;
  • Предложения от Банка только для сотрудников: собственный спортзал, а также скидки на услуги туристических агентств, продукты питания, в рестораны, бары, магазины.

Похожие вакансии Data Engineer

hh.ru
lamoda tech

Руководитель группы больших данных

lamoda techАвтоподнятие
Зарплата не указанаРоссияМоскваУдалёнка

Мы в поиске Team Lead в направление BigData, который будет руководить командой по разработке инструментов и пайплайнов данных для DS и ML команд. Команда работает в различных кросc-функциональных проектах в области DS и поддерживает такие продукты как: ранжирование, навигация, персонализация и прайсинг.

Чем предстоит заниматься:

  • управлять командой из 4 человек (оценка производительности, мотивации, развитие, найм);
  • выстраивать процессы команды и настраивать взаимодействие со смежными командами;
  • определять (и отстаивать) архитектуру решений обработки данных, техническая декомпозиция до понятных команде эпиков;
  • совместно работать с командой над задачами из бэклога, помогать в критических направлениях;
  • обеспечивать качество и надежность производимых командой решений;
  • строить инструменты и ETL пайплайны данных;
  • развивать практику и культуру работы с данными в компании;
  • участвовать в исследованиях и принимать решения по использованию новых инструментов для обработки данных в компании;
  • организовывать и проводить собеседования.

Наш технологический стек: Hadoop, Trino, Spark, Spark Streaming, Airflow, Hudi / Iceberg, Python, Scala.

Мы ожидаем:

  • опыт управления командой от 1 года и готовность решать управленческие кейсы;
  • опыт в организации найма и построения команды;
  • желание быть техническим лидером для команды (не бояться погружаться в детали и помогать достигать целей);
  • готовность управлять сроками и ожиданиями бизнеса;
  • опыт выстраивания процессов с 0, подкрепленный метриками;
  • понимание принципов организации хранилищ данных;
  • уверенное знание SQL, умение строить сложные запросы и оптимизировать производительность;
  • уверенное знание одного из языков программирования: python, java, scala;
  • экспертность в Data Engineering, хорошие знания технологий (hadoop, kafka, spark, trino, airflow).

Мы предлагаем:

  • ДМС со стоматологией, телемедициной и программой поддержки ментального здоровья;
  • Страхование жизни;
  • Ежемесячные промокоды на Lamoda: два по 25%, два по 15% и в день рождения — 40%;
  • Программа привилегий и скидок от BestBenefits;
  • До 15 дней больничного в год оплачиваем в размере 100% от действующего оклада;
  • Бесплатные юридические консультации;
  • Дополнительные выходные в случае важных событий;
  • Яркие мероприятия и много неформального общения.

Развитие для каждого:

  • Опытный наставник для каждого новичка;
  • Обучение и участие во внешних конференциях;
  • Помогаем развивать личный бренд, выступать на конференциях и писать статьи;
  • Performance Review дважды в год, чтобы развиваться системно;
  • Проводим митапы и demo-дни для обмена знаниями;
  • Погружаем в fashion и каждый сезон знакомим с модными трендами.
hh.ru
Зарплата не указанаРоссияМоскваУдалёнка

Юзтех – группа аккредитованных ИТ-компаний полного цикла разработки с многолетней экспертизой в передовых технологиях: DWH, BigData, AI/ML, Blockchain, BI, предиктивная аналитика, цифровые двойники производства и рисков.

ГК Юзтех является технологическим партнером таких компаний, как Mail.ru, 2Gis, НЛМК, Еврохим, ГоИнвест, Альфа-Банк, Сбер, ВТБ, МКБ, Самолет, Х5 retail Group, Газпромнефть, Леруа Мерлен, Ситилинк, Ланит, IBS. Также, ГК разрабатывает собственные ИТ-продукты (Юзбас, Октопус, Тил Эйчар) и флагманские проекты, которыми пользуется 70% населения страны.

Сфера:

Ищем ведущего инженера сопровождения хранилища данных (DWH) в команду, отвечающую за стабильную работу процессов загрузки и обработки данных.

Формат работы:

Удалённо, РФ.

Задачи:

  • Сопровождение и анализ существующих процессов загрузки данных.

  • Мониторинг ETL-процессов, выявление и устранение аномалий.

  • Тестирование и внедрение доработок в продуктивную среду.

  • Обработка обращений пользователей в рамках второй линии технической поддержки, включая перезагрузку данных.

  • Проверка и актуализация технической документации.

Мы ожидаем:

  • Уверенное знание SQL.

  • Знание Python и библиотек для разработки ETL-процессов.

  • Опыт работы с Greenplum, Oracle, Apache Airflow, Informatica PowerCenter.

  • Знание технологий MinIO, Hive, Impala, Apache Spark.

  • Навыки системного анализа и тестирования.

  • Опыт работы с Jira, Confluence или аналогичными инструментами.

  • Будет плюсом знание S3 и Apache Iceberg.

Мы предлагаем:

  • Карьерную и профессиональную возможность в стабильной, аккредитованной ИТ-компании;
  • Расширенный полис ДМС со стоматологией, корпоративный психолог;
  • Необходимую технику для комфортной работы;
  • Обучение, сертификацию, клуб английского языка;
  • Доступ к Корпоративной библиотеке и к Корпоративному университету;
  • Внутрикорпоративные профильные коммьюнити;
  • Заботу о детях сотрудников: корпоративные скидки, подарки, детские дни;
  • Геймифицированную программу лояльности: поверь, ты будешь восторге от нашего корпоративного магазина;
  • Корпоративную жизнь: мы много работаем и классно отдыхаем.
hh.ru
Rubytech. Технологии и продукты
Зарплата не указанаРоссияМоскваГибрид

Группа Rubytech — лидирующий производитель программно-аппаратных комплексов и разработчик технологий для высоконагруженных ИТ-инфраструктур. Мы выпускаем собственную линейку ПАК Скала^р, а также строим и защищаем от киберугроз инфраструктуру, обеспечивая бесперебойную работу крупного бизнеса и государственных организаций.

Вам предстоит:

• Разработка, построение, тестирование и поддержка архитектур данных: Дата-инженер отвечает за создание и поддержку оптимальных архитектур данных, которые обеспечивают эффективное хранение, обработку и доступ к большим объемам данных.
• Сбор и интеграция данных из различных источников: Дата-инженер должен уметь собирать данные из разнообразных источников, таких как базы данных, файловые системы, внешние сервисы и API, и интегрировать их в централизованное хранилище данных.
• Очистка и подготовка данных: Очистка неструктурированных и разрозненных данных, их преобразование в структурированный и читаемый формат для последующего анализа.
• Автоматизация процессов сбора, обработки и анализа данных: Разработка и поддержка автоматических процедур для регулярного обновления данных и обработки потоков данных в реальном времени.
• Мониторинг, тестирование и обеспечение производительности обработки данных: Постоянный мониторинг систем и архитектур данных на предмет ошибок и узких мест, а также выполнение необходимых оптимизаций.
• Сотрудничество с аналитиками данных и другими заинтересованными сторонами: Взаимодействие с командами аналитиков, бизнес-аналитиков и разработчиков для обеспечения доступа к данным, их понимания и использования.
• Соблюдение политик и нормативов в области обработки данных: Все процессы и системы должны соответствовать требованиям в отношении безопасности данных, конфиденциальности и правовых норм.

Требования к нашему кандидату:

• Опыт работы дата-инженером от 3 лет: Участие в проектировании, построении, оптимизации и поддержке хранилищ данных. Опыт работы с базами данных и большими объемами данных.
• Знание систем управления базами данных: Глубокие знания SQL и NoSQL баз данных, включая Greenplum, ClickHouse, MongoDB, Cassandra, PostgreSQL, MySQL и другие.
• Опыт с большими данными и распределенными системами: Опыт работы с Hadoop, Spark, Trino, StarRocks, Kafka и другими технологиями обработки больших данных.
• Знание облачных платформ: Опыт работы с облачными платформами AWS, Yandex Cloud или VK Cloud, включая сервисы хранения, обработки данных и управления базами данных.
• Навыки работы с данными: Знание основных принципов и методик построения DWH, DataLake, Lakehouse. Понимание методов очистки и предобработки данных, знание инструментов для визуализации данных.
• Опыт разработки ETL: Уверенное владение ETL-инструментами для извлечения, трансформации и загрузки данных из различных источников.
• Знание языков программирования: Владение SQL и одним или несколькими языками программирования: Python, Scala, Java.
• Опыт работы с Git и инструментами CI/CD: GitLab, Jenkins или аналогичными.
Тестирование: Опыт формирования сценариев и проведения функционального и нагрузочного тестирования.
• Умение работать с документацией: Анализ и подготовка архитектурной документации, описаний разработанных решений и результатов тестирования.
• Осознанное использование ИИ: Понимание и опыт использования ИИ-инструментов для повышения продуктивности работы.
• Навыки командной работы: Способность эффективно общаться как с техническими, так и с не техническими коллегами, умение работать в команде.

Желательно:

• Опыт работы с DevOps-задачами, самостоятельное развёртывание демонстрационных и тестовых стендов, проведение тестов и документирование результатов.
• Понимание принципов контейнеризации и опыт работы с Docker, Kubernetes.

Что мы предлагаем:

  • Уютный, комфортный и современный офис в пешей доступности от м. Алексеевская, где есть все необходимое для работы и даже больше: дежурный врач, кафе и столовая, кофе и фрукты, фитнес-центр, коворкинг и многое другое.
  • Стабильный и «белый» конкурентный доход, который мы обсудим при встрече;
  • Удобный график — гибрид или офис (в зависимости от подразделения);
  • Работа в аккредитованной ИТ-компании из реестра Минцифры (отсрочка от мобилизации);
  • Профессиональный рост, обучение и развитие, участие в проекте «Лекторий Rubytech»;
  • Развитые спортивные комьюнити: футбол, волейбол, баскетбол и шахматы;
  • ДМС для вас и вашей семьи на особых условиях;
  • Тимбилдинги, митапы и другие корпоративные мероприятия;
  • Скидки у 500+ партнеров (платформы BestBenefits и Lerna).

Ждем вас в нашей команде!

HireSeeker собирает вакансии со всех площадок и присылает только релевантные. Бесплатно.