инвитро. ит

Data Engineer в Data Lake (Python)

Изучение сырых данных, как на источнике, так и в Storage

инвитро. ит На сервисе с: 06.10.26 09:51

Зарплата не указанаРоссияМоскваГибрид

Чем предстоит заниматься:

  • Изучение сырых данных, как на источнике, так и в Storage
  • Тесное взаимодействие с командами Data Science и ML
  • Разбор и устранение сложных инцидентов производительности в ClickHouse, PySpark
  • Проектирование и построение витрин данных в ClickHouse
  • Разработка и модификация ETL/ELT-процессов для Data Mart
  • Проведение код-ревью

Вам потребуется:

  • Опыт работы от 3 лет (на аналогичной позиции или схожей)
  • Практический опыт построения платформ данных с использованием Apache Iceberg на S3-совместимых хранилищах или Hadoop

  • Уверенное владение Python (включая PySpark)

  • Продвинутый опыт работы со PySpark (batch) с большими объемами данных

  • Опыт проектирования таблиц в ClickHouse

  • Опыт опыт работы с ClickHouse

  • Отличное знание SQL и опыт оптимизации под большие объёмы данных

  • Разработка, оптимизация и масштабирование ETL/ELT-процессов

  • Разработка и поддержка витрин данных для аналитики и бизнес-отчетности

  • Взаимодействие с аналитиками, специалистами Data Science и ML
  • Понимание принципов Data Lake / Data Lakehouse

Будет плюсом:

  • Опыт работы с Hive
  • Опыт работы Apache Airflow
  • Понимание принципов MLOps
  • Опыт работы с Kafka
  • Опыт работы со Spark ( streaming)
  • Понимание принципов Lakehouse
  • Опыт работы с кластером ClickHouse
  • Участие в проектировании и развитии архитектуры хранилищ данных (DWH) и озёр данных (Data Lake);
  • Понимание различных моделей данных (Star/Snow?ake, Data Vault, Anchor Modeling

Мы предлагаем:

  • Профессиональное развитие в крупной MedTech компании
  • Оформление по ТК РФ с первого дня в дочернюю аккредитованную ИТ компанию
  • Удаленный/ гибридный формат работы
  • Здоровье и поддержка: полис ДМС с телемедициной, консультациями узких специалистов и психотерапевта. Корпоративные скидки до 50% на все виды медицинских услуг для вас и ваших близких
  • + 3 дня оплачиваемых выходных
  • Подарок на День рождения и для детей к Новому году и Дню знаний
  • Внутреннее и внешнее обучение, семинары, тренинги
  • Корпоративные скидки и эксклюзивные специальные предложения от 800+ партнеров (товары, обучение, спорт, здоровье, рестораны, отдых)
  • Вознаграждение за рекомендацию друзей в команду ИНВИТРО

Предлагаем насыщенную жизнь в компании! Проводим корпоративные и спортивные мероприятия, профессиональные соревнования, конкурсы для сотрудников и членов семьи. В компании у каждого сотрудника имеется возможность для профессионального и карьерного роста.

Похожие вакансии Data Engineer

hh.ru
СБЕР

Python разработчик

СБЕРНа сервисе с: 06.10.26 11:40
Зарплата не указанаРоссияМоскваОфис
Ищем инженеров в команду поисковых технологий для AI-систем

Строим общий поисковый слой, который будет использоваться в самых разных продуктах на основе языковых моделей.

Данные бывают очень разными: где-то это готовые структурированные записи, где-то — документы и обычный текст, а где-то информацию ещё нужно извлечь, очистить и подготовить к индексации.

Наша задача — сделать так, чтобы AI-системы могли быстро находить действительно нужную информацию. По качеству хотим быть на уровне лучших поисковых решений, а по скорости разработки — заметно быстрее больших платформенных команд.

Обязанности

  • разрабатывать движки индексации и поиска;
  • работать с векторным, текстовым и гибридным поиском;
  • строить распределённые системы хранения и обработки данных;
  • улучшать скорость, качество и снижать стоимость поиска;
  • решать задачи отказоустойчивости и горизонтального масштабирования;
  • работать с большими объёмами данных и высокой нагрузкой;
  • создавать технологии, которые будут использовать другие команды и продукты.

Требования

  • опыт промышленной разработки на Python
  • глубокое понимание алгоритмов и структур данных
  • навыки построения распределённых систем
  • знание Linux и контейнеризации
  • ориентация на результат и командную работу

Условия

  • конкурентная заработная плата и годовая премия
  • гибридный формат работы из г. Москва
  • корпоративный спортзал и зоны отдыха
  • более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
  • расширенный ДМС, льготное страхование для семьи
  • ипотека для всех сотрудников
  • бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
  • вознаграждение за рекомендацию друзей в команду Сбера.
Соц.сети
Н

Data Engineer

Неизвестный работодательНа сервисе с: 06.10.26 11:01
Зарплата не указанаРоссияБеларусь

Data Engineer

▫️Грейд: Middle+/TeamLead
▫️Домен: Производство
▫️Локация: РФ/РБ
▫️Длительность: 6+ мес.

Требования:
Обязательные:
- Опыт работы на позиции Data Engineer от 4 лет в сфере разработки ПО
- DBMS & Warehouses: уверенная работа с Postgres и MSSQL; опыт настройки и оптимизации OLAP-движков (Trino, StarRocks) и современных хранилищ (Cassandra, Redis)
- Data Flow Tools: практический опыт работы с Apache Airflow (написание DAG, кастомные операторы); опыт использования Apache Kafka (producer/consumer) и Apache Flink (разработка стриминговых джоб, состояние, чекпоинты)
- Data Lake / Lakehouse: опыт работы с Apache Iceberg, понимание архитектуры lakehouse, использование Lakekeeper для управления метаданными, работа с объектным хранилищем S3
- CDC: опыт реализации Change Data Capture паттернов для синхронизации данных между системами
- Глубокие знания в области архитектуры данных и баз данных: понимание принципов нормализации и денормализации, проектирование relational и columnar моделей, стратегии управления данными (lifecycle, retention, versioning)
- Уверенное владение Python: написание скриптов, модулей, работа с асинхронностью при необходимости; опыт написания DAG в Apache Airflow, включая кастомные операторы, hooks, sensors
- Навыки оптимизации: умение профилировать процессы, находить bottlenecks, оптимизировать SQL-запросы и настраивать ресурсы кластеров под нагрузку
- Владение Jira и Confluence на уровне confident user (структура страниц, шаблоны, макросы, связки задач и документации)
- Опыт организации хранения данных для последующих задач OLAP / OLTP с учетом требований (consistency / integrity)
- Опыт организации обработки данных в рамках задач OLAP / OLTP с применением различных паттернов (batch processing, CDC)
- Понимание ключевых особенностей и сценариев применения различных паттернов организации интеграционных потоков (batch processing, CDC) с учетом их характеристик (3V+)
- Опыт заведения и сопровождения заявок в сервис-деске
- Умение структурировать информацию, работать с требованиями, документировать технические решения
- Английский язык — на уровне чтения и написания технической документации

Будет плюсом:
- Опыт работы с Timeseries базами данных (InfluxDB, TimescaleDB, TDengine и др.)
- Глубокий опыт эксплуатации кластеров (Hadoop, YARN, Kubernetes) в production-среде
- Знание SQL на продвинутом уровне (оптимизация сложных запросов, window functions, CTE)
- Опыт работы с CI/CD для data-пайплайнов
- Понимание принципов DDD, event-driven архитектуры
- Опыт работы с Apache NiFi

Откликнуться на запрос: ••••••••
По вопросам партнерского сотрудничества: ••••••••

hh.ru
мокка

Senior Data engineer

моккаНа сервисе с: 31.08.26 20:37↑ Вакансия с автоподнятием
Зарплата не указанаРоссияМоскваГибрид

Мокка – это популярный в России и Восточной Европе финтех сервис в сегменте BNPL (Buy Now Pay Later – Покупай сейчас, плати потом). С его помощью можно получить моментальный аванс на покупки и на другие цели с оплатой частями. Зарегистрироваться в Мокка можно в два клика прямо в магазине или в мобильном приложении – для этого не надо заполнять длинные анкеты или подписывать бумаги, весь процесс полностью онлайновый.

Под капотом Мокка – более 10 лет накопленного опыта, современные мобильные и облачные технологии и уникальный гибкий подход ко всем процессам. В Мокка более 15 млн пользователей, а сам сервис доступен в >9,500 партнерских магазинах, среди которых Детский мир, Иль Де Ботэ, ECCO и другие.

Задачи, которые тебе предстоит решать:

В первую очередь ищем сильного человека на усиление команды DE, поэтому фокус на разработку и оптимизацию текущих ключевых регламентных процессов

  • 50% времени - реализация задач по развитию DWH (анализ, разработка объектов DWH, dbt-моделей, потоков данных)
  • 20% времени - архитектурные задачи, планирования работ и улучшение инженерных практик в работе команды
  • 30% времени - поддержка и улучшение существующих регламентных процессов DWH (решение инцидентов, поиск узких мест и стабилизация, работа над системным улучшением процессов)

Наши пожелания к экспертизе:

  • Обширный опыт работы с MPP СУБД (в идеале с GreenPlum), опыт оптимизации запросов, настройки ресурсных групп, мониторинга производительности системы
  • Опыт проектирования объектов многослойных корпоративных хранилищ данных
  • Опыт разработки dbt-моделей
  • Опыт проектирования и разработки DAG-ов в Airflow с чёткой декомпозицией задач, зависимостями и сенсорами. Понимание принципов настройки retry-политик, SLA-таймаутов и алертов.
  • Опыт выстраивания процессов CI/CD, процессов контроля качества разработки
  • Навыки бизнес-анализа, умение говорить с бизнес-пользователями на их языке
  • Опыт работы в банковской сфере будет большим преимуществом

Мы предлагаем:

  • Возможность учиться, профессионально расти и использовать в работе новейшие технологии
  • Возможность самим выбирать “железо” для работы
  • Привлекательную заработную плату в соответствии с твоими навыками и опытом, полное соблюдение ТК РФ

  • Работу в команде, которая заинтересована в твоем росте
  • Современный офис в стиле лофт в БЦ “Даниловская мануфактура” (шаговая доступность от м. Тульская)
  • Формат работы: 4 дня в офисе, 1 день удаленно
  • Открытую и простую коммуникацию внутри команды, без лишнего формализма
  • Работу в аккредитованной ИТ компании
  • ДМС, обучение и т.п.

HireSeeker собирает вакансии со всех площадок и присылает только релевантные. Бесплатно.