AI-инженер (Python, FastAPI)

Мы ищем LLM инженеров в команду AI HUB БЛиК, перед которой стоят две задачи: агентизировать HR-процессы Банка с помощью AI-инструментов и внедрить их в платформу Пульс, сделав решения доступными каждому из сотрудников.

Мы используем Python, LangGraph, Kubernetes, а также собственные и внешние модели. При этом, свободно сочетаем готовые инструменты с решениями, которые пишем сами. Нам важны системы, которые приносят организации измеримый результат.

Вы будете ключевым специалистом в кросс-функциональной команде и будете работать бок о бок с backend, DS, Data и другими LLM-инженерами.

Первый этап отбора на эту вакансию — общение с AI-рекрутером. После отклика ждите сообщение от него, диалог займёт примерно 10 минут. Задача AI-рекрутера — уточнить недостающие детали и ускорить рассмотрение вашей кандидатуры. AI-рекрутер только начинает свой путь, поэтому просим относиться с пониманием. Ваш опыт и участие помогут сделать его удобным и полезным для всех!

• разрабатывать и сопровождать бэкенд AI-агентов: оркестрация графов на LangGraph — состояния, ветвления, циклы, human-in-the-loop, политики retry и fallback

• проектировать и версионировать инструменты (tools) для агентов, интегрировать их с внутренними системами банка через REST/gRPC/MCP/A2A

• работать со сложными промптами, настраивать источники данных под RAG для эффективного поиска и оценивать ответы моделей на точность, релевантность и качество

• упаковывать сервисы в Docker и выводить их в промышленный Kubernetes

• проектировать и проводить эксперименты и A/B-тесты над промптами, пайплайнами и конфигурациями моделей

• развивать систему eval — формировать наборы задач и сценариев, определять метрики accuracy/relevance/robustness, автоматизировать прогон экспериментов и анализ результатов; принимать продуктовые решения на основе метрик

• заниматься тонкой настройкой и оптимизацией конфигураций моделей и агентов: сравнивать модели, версии и параметры inference, подбирать баланс качества, latency и стоимости, обеспечивать устойчивость и предсказуемость работы оркестраций в production

• выстраивать мониторинг: трассировку цепочек вызовов, метрики латентности, токенов и стоимости, алертинг

• вместе с командой решать сложные задачи внедрения AI, ревьюить код и держать высокую планку качества решений.

• практический опыт работы с LLM: промпт-инжиниринг, сборка пайплайнов, интеграция моделей

• LangGraph — опыт разработки агентных графов, вывода их в прод и отладки нетривиального поведения

• Docker — сборка и оптимизация образов, multi-stage, работа с реестрами

• Kubernetes — реальный опыт эксплуатации сервисов в кластере, а не только знакомство по документации

• Python — глубокое понимание asyncio / multithreading / multiprocessing, понимание алгоритмов и структур данных для решения нетривиальных задач, продвинутые знания SQL: сложные JOIN, CTE, оконные функции, оптимизация запросов (EXPLAIN), работа с подзапросами

• понимание метрик качества и практический опыт A/B-тестирования ML-решений

• умение приоритизировать гипотезы, обоснованно выбирать модели, методы и алгоритмы и проектировать эффективные инженерные решения

• опыт поставки качественного ПО и владение циклом разработки целиком — от технического дизайна до мониторинга после выката

• понимание ландшафта LLM-провайдеров: как коммерческих, так и open-source моделей, разворачиваемых в собственном контуре

• знакомство с open-source инструментами для построения и оценки RAG: LangChain, LlamaIndex, Ragas, MLflow и подобными

• умение объяснять сложные технические вещи широкой аудитории стейкхолдеров.

Будет плюсом:

• опыт вывода в прод бизнес-критичных ML/AI-приложений

• опыт адаптации, дообучения и разворачивания open-source моделей в on-premise или закрытом контуре

• MCP (Model Context Protocol), разработка MCP-серверов и проксирования инструментов

• мультиагентные архитектуры: маршрутизация, разделение ролей, общая память между агентами

• практический опыт работы с Redis (кэширование, брокер) и ClickHouse (или другими колоночными СУБД), опыт работы с очередями сообщений: Kafka и/или Celery

• личное портфолио pet-проектов по ML или вклад в open-source

• опыт работы в банке, финтехе или другом регулируемом домене

• опыт построения React-агентов на современных open-source решениях

• опыт использования Openclaw, Hermes, Ouroboros

• навыки работы с генеративными AI-моделями, опыт создания AI-агентов и использование их в работе будет преимуществом

• опыт использования GigaChat, Kandinsky и аналогов в продуктах

• инструментальное владение Ai для анализа, генерации и автоматизации.

• гибридный формат работы(2 дня в офисе, 3 дня дома), адрес офиса Кутузовский проспект 32

• ежегодный пересмотр зарплаты, квартальная и годовая премия

• корпоративный спортзал и зоны отдыха

• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития

• программа адаптации и помощь руководителя на старте

• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа

• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ

• подписка Прайм с возможностью совместного использования на трёх близких

• вознаграждение за рекомендацию друзей в команду Сбера.

<iframe width="560" height="315" src="https://runtime.strm.yandex.ru/player/video/vplvxk3zmhflhz5j2y2a?autoplay=1&mute=1" allow="autoplay; fullscreen; accelerometer; gyroscope; picture-in-picture; encrypted-media" frameborder="0" scrolling="no"></iframe>

Мы развиваем Нейро — систему моделей для построения ответов LLM с использованием поиска как источника информации и обогащений ответа. Мы внедрили такую систему в Поиск Яндекса и сейчас стоим перед новым вызовом: научиться решать сложные сценарии с использованием Поиска, которые возникают в чате с Алисой.

Представьте запрос «составь план путешествия, чтобы увидеть косаток летом». Чтобы построить хороший ответ на него, нужны многостадийный поиск, использование картинок и данных от отелей, хорошая структура и высокая достоверность. И таких запросов — сотни тысяч из разных аспектов.

Наша команда отвечает за Align-модели Нейро: обучает SFT, исследует самые новые алгоритмы RL, максимизирует реворды, внедряет длинные контексты и MoE. Также важна часть с оптимизациями моделей: Нейро используют десятки миллионов человек, и чтобы держать такую нагрузку, нужно постоянно искать и внедрять новые методы оптимизации. Сейчас перед нами стоят новые вызовы, и мы ищем в команду сильного DL-разработчика, знающего LLM и умеющего писать код.

Исследование подходов RL

Так как Нейро должен не только писать тексты, но и использовать картинки, видео, подходящую структуру, мы используем десятки реворд-моделей для оптимизации разных аспектов. Сейчас наши основные методы — DPO и CE-RL, но они несовершенны, и мы хотим обучаться эффективнее. Нужно будет читать статьи, реализовывать новые методы, а также совершенствовать текущие.

Оптимизации моделей

Раскатка Нейро на миллионы пользователей — это очень дорого, а когда речь начинает идти о многостадийных поисках, то числа становятся совсем заоблачными. Нужно исследовать, реализовывать и иногда дебажить квантования, дистилляции, спекдеки. А потом внедрять их без потерь качества.

Поиск новых направлений

Когда делаешь новый продукт, возникает множество челленджей, и важно среди них находить точки роста, которые потом конвертируются в задачи. Например, нам не хватает более длинного контекста, не хватает умения «видеть» картинки. Когда такая точка роста находится, нужно превратить её в задачу, договориться со смежниками про совместные действия и довести эту задачу до конца в вопросах не только разработки, но и менеджмента. Такие задачи отлично помогают расти в сторону лида или техлида, и возникают они регулярно.

Подробнее про Alice AI

Больше об ML в Яндексе — в канале Yandex for ML

* Понимаете, как устроены LLM, как они обучаются и какие у них степени свободы
* Знаете классические DL и ML
* Пишете код на Python
* Читаете статьи, готовы к сложным вызовам и амбициозным задачам

* Работали с RL
* Реализовывали методы оптимизации или продакшн-инференса моделей