сбер

GenAI Evaluation Engineer (Риски) (Python)

Наша команда отвечает за независимую оценку и контроль качества генеративных моделей Банка.

сбер · На сервисе с: 01.09.26 13:04

Зарплата не указанаРоссияг МоскваУдалёнка

Наша команда отвечает за независимую оценку и контроль качества генеративных моделей Банка.

Наша основная задача оценить флагманские генеративные модели Сбера – GigaChat, Kandinsky, GigaCode и PhysicalAI решений. Мы первыми видим, на что способна новая модель и проводим оценку новых возможностей прежде чем она выйдет к пользователям.

Мы не просто «проверяем метрики», а:

  • глубоко разбираемся в подходах команд-разработчиков и в бизнес-процессах, где работают модели
  • критически рассматриваем архитектурные и методологические решения и предлагаем улучшения
  • разрабатываем собственные проверки, метрики и бенчмарки и фреймворки для их запуска
  • проводим оценку логов пользователей для построения наиболее релевантного тестирования

Отдельный фокус – R&D деятельность:

  • создание новых методологий оценки качества
  • участие в разработке и развитии передовых банковских и российских бенчмарков (MERA, POLLUX и др.)
  • адаптация передовых мировых бенчмарков под специфику банковских кейсов
  • и многое другое

Эта роль про независимое измерение фундаментального качества модели: не про их обучение – этим занимается отдельная команда

Придумывать, как вообще измерить модель

ИИ стремительно развивается в мире и выходят новые модели и их виды, однако не всегда любая новая модель стала лучше предыдущей. Вам будет необходимо создать план по её проверке: что именно измерять, на какой выборке, с чем сравнивать, какая разница вообще будет считаться разницей в реальном качестве.

Отвечать за достоверность измерений

Полученные метрики не всегда отражают только лишь качество модели. Нужно уметь отделять реальный прирост качества от прочих факторов: ловить утечки данных в обучение, отличать дефект модели от дефекта замера, промпта или обвязки и проявлять тот же скепсис к собственной методологии: измеряем ли мы то, что заявили.

Разбираться в причинах ошибок

«Модель ошиблась» – это не вывод, а начало работы. Найденная вами причина той или иной проблемы модели превращается в рекомендацию команде разработки, а рекомендация – в следующую версию модели, которая этой ошибки уже не делает.

Строить автоматическую оценку

Разрабатывать LLM- и VLM-судей под конкретные задачи, разрабатывать с нуля собственные или дорабатывать существующие библиотеки валидации полного цикла и следим за фронтиром AI-исследований в области оценки моделей.

Строить то, чем пользуются другие

Фреймворки оценки, который вы развиваете – общие для команд по всему Банку. Бенчмарки, которые вы делаете, являются достоверной базой реального качества для разработчиков Банка и вне.

  • Умение проводить технический и научный ресерч: находить и критически разбирать актуальные статьи, бенчмарки, модели и реализации; переводить ресерч в конкретные идеи для тестирования и развития внутренних подходов.
  • Статистика и дизайн эксперимента: доверительные интервалы, размер выборки, проверка гипотез, поправки на множественные сравнения
  • Понимание современных AI-агентов и агентных систем: понимать, чем агент отличается от обычного вызова LLM; знать основные компоненты агентной системы: роли, инструменты, контекст, память и оркестрация;
  • Понимаете, как устроены генеративным модели изнутри: трансформер и механизм внимания, диффузии, токенизация, параметры генерации, этапы обучения
  • Опыт с генеративными моделями и понимание, как их оценивают: метрики, бенчмарки, human evaluation, Model-as-a-judge и его ограничения
  • Продуктовое мышление: связывать тестирование с реальными пользовательскими сценариями и понимать, какие ошибки критичны для продукта, понимать влияние результатов на релиз и дальнейшее развитие модели.
  • Python на продакшн-уровне: чистый код по PEP 8, ООП и типовые паттерны проектирования, аннотации типов, привычка к линтерам и статическому анализу (ruff, mypy). Создаете и поддерживаете production-код eval-пайплайнов, читаете и ревьюите чужой.

Будет плюсом: R&D-опыт или участие в создании бенчмарков; мультимодальные модели (изображения, видео, аудио); evaluation-фреймворки и harness; RAG; работа с асессорами; coding-агенты (Claude Code, Codex, Cursor); опыт работы с оркестрацией: LangGraph, OpenClaw, навыки вайбкодинга и AI-assisted coding

Стек: Python, pandas, NumPy, PyTorch, HuggingFace (transformers, datasets), vLLM, SGLang, инференс-API, S3, Git, Docker, CI/CD, Linux, Bash.

  • комфортный современный офис рядом с м. Кутузовская
  • гибкий формат и удаленной работы, в т.ч. на территории РФ
  • ежегодный пересмотр зарплаты и годовая премия
  • корпоративный спортзал и зоны отдыха
  • более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
  • расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
  • гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
  • подписка Прайм с возможностью совместного использования на трёх близких
  • скидки на продукты компаний-партнеров
  • вознаграждение за рекомендацию друзей в команду Сбера.
Эта вакансия также есть на:hh.ru

Похожие вакансии Data Science & ML

Другие площадки
S

Staff Data Scientist, Watchlist

socureНа сервисе с: 24.09.26 18:12
Зарплата не указанаСШАУдалёнка

Why Socure?

Socure is building the identity trust infrastructure for the digital economy — verifying 100% of good identities in real time and stopping fraud before it starts. The mission is big, the problems are complex, and the impact is felt by businesses, governments, and millions of people every day.

We hire people who want that level of responsibility. People who move fast, think critically, act like owners, and care deeply about solving customer problems with precision. If you want predictability or narrow scope, this won’t be your place. If you want to help build the future of identity with a team that holds a high bar for itself — keep reading.

WHY SOCURE?

Socure is building the identity trust infrastructure for the digital economy — verifying 100% of good identities in real time and stopping fraud before it starts. The mission is big, the problems are complex, and the impact is felt by businesses, governments, and millions of people every day.

We hire people who want that level of responsibility. People who move fast, think critically, act like owners, and care deeply about solving customer problems with precision. If you want predictability or narrow scope, this won't be your place. If you want to help build the future of identity with a team that holds a high bar for itself — keep reading.

ABOUT THE ROLE

We are looking for a Staff Data Scientist to join Socure's Watchlist Data Science team. Watchlist sits at the heart of global AML compliance — our platform screens hundreds of millions of entities in real time across sanctions lists, PEP databases, and adverse media sources for banks, fintechs, and payment companies worldwide.

As a Staff Data Scientist, you will work on the hardest problems in entity matching and classification: scaling our patented real-time matching engine, building advanced Natural Language Processing (NLP) models for Named Entity Recognition (NER) and Information Extraction, and bringing next-generation research to production. This is a senior individual contributor role with broad technical ownership and direct impact on a product that helps the world's financial institutions manage sanctions and AML risk.

WHAT YOU'LL DO

Data Quality & Enrichment

  • Improve the quality, coverage, and freshness of Watchlist's underlying data through next-generation ingestion pipelines.

  • Design and execute rigorous data quality analysis pipelines to identify anomalies, evaluate dataset health, and ensure high-fidelity inputs for downstream model training.

  • Apply NLP and AI to classify and enrich raw source data into normalized schemas — extracting structured entity attributes from unstructured sanctions, PEP, adverse media, and enforcement sources.

  • Expand multilingual capabilities to support global screening across Latin and non-Latin scripts.

Entity Resolution

  • Build and improve NLP systems that consolidate how watchlist identities are represented. Developing Information Extraction and Named Entity Recognition (NER) pipeline to deduplicate entities across lists and resolve aliases into canonical profiles..

  • Develop approaches to handle how entity profiles change over time as names, aliases, and sanctions status evolve.

  • Measure and benchmark entity resolution quality, driving continuous improvement in coverage and accuracy.

Match Engine & Risk Scoring

  • Design and scale advanced NLP models and algorithms that perform real-time name matching and identity classification across diverse, multilingual unstructured data sources.

  • Build multi-signal risk scoring that combines name similarity, entity type, geography, list type, and other attributes into unified, calibrated risk scores.

  • Maintain and improve benchmarking frameworks, golden datasets, and regression tests that keep the match engine at the highest levels of recall and precision.

Analytics, Tuning & Evaluation

  • Build models and analytics that help customers tune their screening thresholds to the right operating point for their risk appetite and entity mix.

  • Develop backtesting and counterfactual analysis capabilities so customers and internal teams can understand how model or threshold changes would affect screening outcomes.

  • Design evaluation frameworks for AI-powered autonomous decision systems — defining correct behavior, calibrating confidence thresholds, and monitoring for drift in production.

AML Risk Detection

  • As Watchlist expands into payment screening, build the mathematical analysis and feature engineering needed to detect AML risk patterns across transaction data and payment message fields.

  • Develop and maintain the AML taxonomy and risk signal library that underlies Watchlist's classification and detection capabilities.

  • Apply graph-based methods to surface indirect risk exposure — identifying entities connected to sanctions risk even when they are not directly listed.




Research & Technical Leadership

  • Lead technical initiatives across Watchlist Data Science and shape the team's long-term approach to entity matching, enrichment, and AI.

  • Collaborate closely with Product and Engineering to translate research into production-grade systems at scale.

  • Stay current with advances in NLP, large language models, and entity resolution; prototype and deploy relevant techniques (e.g., advanced NER, LLM-based extraction) to AML use cases.

  • Mentor peers and contribute to a culture of technical rigor and continuous improvement.

WHAT YOU BRING

  • Master's or PhD in Computer Science, Computational Linguistics, Statistics, Applied Mathematics, or a related field; or equivalent professional experience.

  • 7+ years of experience in data science or machine learning, with meaningful work in NLP, entity resolution, or information extraction.

  • Experience in AML, sanctions screening, adverse media, or financial crime detection is strongly preferred.

  • Hands-on experience building and deploying NLP pipelines for entity extraction, named entity recognition, and record linkage at production scale.

  • Familiarity with multilingual NLP and non-Latin script processing is a strong plus.

  • Experience with LLMs and agentic AI frameworks (e.g., LangChain/LangGraph) is a plus.

  • Strong proficiency in Python and major ML libraries (PyTorch, spaCy, HuggingFace Transformers).

  • Strong SQL proficiency and experience with large-scale data pipelines and production ML systems.

  • Excellent communication skills — able to translate model performance tradeoffs into compliance and business language for non-technical audiences.

Note: We cannot provide Sponsorship at this time.

You must be located in one of our talent hubs: New York, San Francisco, Seattle, or Miami.

Socure is an equal opportunity employer that values diversity in all its forms within our company. We do not discriminate based on race, religion, color, national origin, gender, sexual orientation, age, marital status, veteran status, or disability status. If you need an accommodation during any stage of the application or hiring process — including interview or onboarding support — please reach out to your Socure recruiting partner directly.

Socure is an equal opportunity employer that values diversity in all its forms within our company. We do not discriminate based on race, religion, color, national origin, gender, sexual orientation, age, marital status, veteran status, or disability status.
If you need an accommodation during any stage of the application or hiring process—including interview or onboarding support—please reach out to your Socure recruiting partner directly.



Follow Us!

YouTube | LinkedIn | X (Twitter) | Facebook

hh.ru
сбер. it

Senior/middle data scientist (Центр Модельных Рисков)

сбер. itНа сервисе с: 24.09.26 17:03
Зарплата не указанаРоссияМоскваОфис

Управление Модельных Рисков - «by-design» уникальное подразделение, которое «видит» все AI/ML модели Банка, понимает процессы/точки принятия решений моделями, кривая обучения у наших сотрудников «круче», чем в подразделениях, разрабатывающих модели.

Наша цель – помочь Банку зарабатывать больше и улучшать клиентский опыт за счет повышения эффективности моделей и их использования в Бизнес процессах.

Мы ищем DS/Quant с экспертизой на стыке финансовой математики, торговых алгоритмов и ML для работы в напралении Модельного Риска Торговой Книги. Вы будете выступать ключевым звеном контроля качества моделей и агентов, используемых в оценке рисков и ценообразовании финансовых инструментов.

Обязанности

  • оценка качества моделей ClassicML, работающих на финансовых рынках, в том числе: торговые алгоритмы, оценка эластичности по цене, кластеризация клиентов и т.д.
  • проведение независимой оценки качества моделей прайсинга финансовых инструментов, а также риск-моделей (включая VaR, CVA, PFE)
  • анализ корректности математических предпосылок, устойчивости моделей и их соответствия бизнес-требованиям и рыночным условиям
  • оценка и контроль рисков агентов, работающих в торговых алгоритмах, процессах прайсинга финансовых инструментов и оценки рыночных рисков
  • создание инструментов для автоматизации процессов мониторинга моделей и агентов с использованием Python
  • подготовка аналитических заключений по результатам валидации, формирование рекомендаций по доработке моделей
  • презентация результатов работы, аргументация выводов и защита предложенных решений перед разработчиками моделей, риск-менеджментом и бизнес-заказчиками.

Будет плюсом:

  • навыки работы с генеративными AI-моделями; опыт создания AI-агентов и использования их в работе будет преимуществом.

Требования

  • знание теории вероятностей, математической статистики и случайных процессов
  • опыт работы на стороне разработки или валидации ClassicML моделей
  • уверенные навыки программирования на Python, опыт разработки структурированного и поддерживаемого кода
  • знание базовых принципов построения моделей прайсинга производных финансовых инструментов
  • опыт работы с количественными моделями в финансах или смежных областях будет преимуществом
  • участие в летних школах или курсах: Vega, ЦМФ – также является преимуществом.

Условия

  • работа в удобном и современном офисе недалеко от станции метро Кутузовская
  • ежегодный пересмотр зарплаты, годовая премия
  • корпоративный спортзал и зоны отдыха
  • более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
  • расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
  • гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
  • подписка Прайм с возможностью совместного использования на трёх близких
  • вознаграждение за рекомендацию друзей в команду Сбера.
Соц.сети
Н

Senior ML Engineer / MLOps Engineer

Неизвестный работодательНа сервисе с: 24.09.26 16:27
Зарплата не указанаПольшаУдалёнка

#вакансия #vacancy
🚀 Senior ML Engineer / MLOps Engineer — 100% Remote
Must-have:
• Strong Python
• AWS / SageMaker
• MLOps, CI/CD
• Docker + Kubernetes
• ML lifecycle tools: MLflow / Kubeflow / SageMaker Pipelines
• Production experience with ML & LLM applications
• Generative AI / LLMOps
• PySpark / Apache Spark
• FastAPI / Flask
• Model training, fine-tuning, evaluation & optimization
📍 100% Remote | 🇬🇧 English B2+
📅 Duration: 3 months + extension
💰 Rate: TBD
⏰ Full-time
📩 Для подачи присылайте CV в telegram: ••••••••

HireSeeker собирает вакансии со всех площадок и присылает только релевантные. Бесплатно.