Lead ML Engineer (LLM Inference & Architecture)

NLP Engineer (LLM / Generative AI)

Обращаем внимание, что вакансия предполагает full-time office.

Ключевые задачи:

– Формировать дорожную карту LLM/GenAI-инициатив для трейдинга и смежных бизнес-функций.

– Разрабатывать end-to-end LLM-приложения: от подготовки данных и базы знаний, прототипирования и оценки качества до production-деплоя, мониторинга и поддержки.

– Проектировать и внедрять RAG-системы, LLM-решения и AI-агентов с tool/function calling, structured outputs и интеграциями с внутренними системами и API.

– Проектировать retrieval-слой: embeddings, semantic/vector search, hybrid search, reranking, chunking и работу с корпоративными базами знаний.

– Строить eval-пайплайны для LLM: автоматические метрики, LLM-as-a-Judge, регрессионные тесты, оценку галлюцинаций, качества retrieval и устойчивости промптов.

– Выбирать и сравнивать LLM под конкретные сценарии, проводить benchmark-тестирование open-source и API-моделей по качеству, latency, throughput и стоимости.

– Оптимизировать inference LLM: batching, caching, model routing, quantization, работу с длинным контекстом и использование GPU-ресурсов.

– Развивать LLMOps-практики: версионирование промптов, конфигураций и eval-наборов, observability/tracing, мониторинг качества, CI/CD и воспроизводимость экспериментов.

– Проводить технические ревью LLM-решений, задавать инженерные стандарты и развивать экспертизу команды.

– Коммуницировать качество, ограничения и риски LLM-систем техническим и бизнес-стейкхолдерам.

Требования:

– 3+ лет опыта в Data Science, включая практический опыт разработки и вывода LLM/GenAI-систем в production.

– Продвинутый Python и уверенная работа с PyTorch, Hugging Face Transformers и экосистемой инструментов для LLM.

– Глубокое понимание архитектуры и принципов работы LLM: transformers, attention, tokenization, embeddings, context window, prompting и reasoning.

– Практический опыт построения RAG-систем: vector search, retrieval, reranking, chunking, metadata filtering и оценка качества retrieval.

– Опыт разработки agentic workflows и интеграций через tool/function calling; знание LangGraph, LangChain, LlamaIndex, OpenAI Agents SDK или аналогичных инструментов.

– Опыт построения систем оценки LLM: eval datasets, LLM-as-a-Judge, offline/online evaluation, regression testing и контроль качества ответов.

– Опыт inference и serving LLM через vLLM, Hugging Face, Triton или аналогичные решения; понимание batching, KV cache, quantization и GPU-инференса.

– Опыт эксплуатации production LLM-сервисов: Docker, Kubernetes, CI/CD, Git, логирование, tracing, мониторинг и отказоустойчивость.

– Опыт технического лидерства, наставничества и взаимодействия с кросс-функциональными командами.

– Английский не ниже B2 для работы с международной документацией и стейкхолдерами.

Будет плюсом:

– Глубокий опыт работы с open-source LLM и самостоятельного развертывания моделей.

– Опыт распределенного inference и оптимизации serving на нескольких GPU.

– Опыт работы с multimodal LLM.

– Понимание специфики нефтяной отрасли, трейдинга или смежных коммерческих процессов.

Условия:

• График 5/2, комфортный офис (Москва-Сити, работа только в офисе, нет гибридного формата);
• Корпоративная программа ДМС после испытательного срока;
• Рабочие инструменты: ноутбук/ПК, мобильный телефон, корпоративная сим-карта;
• Высокий уровень дохода (обсуждается на собеседовании);
• Возможности развития, интересные задачи, отсутствие бюрократии.

Почему стоит присоединиться к нам:

• Работа над передовыми ИИ-технологиями и созданием инновационных решений;
• Возможность влиять на архитектуру и логику будущих продуктов;
• Динамичная среда, где каждый твой анализ — шаг к реальному продукту.
• Если вы увлекаетесь технологиями, умеете «читать» бизнес и видеть в нём возможности для автоматизации — мы будем рады пообщаться подробнее!

Обязанности:

Внедрение ИИ в существующее ПО: Интеграция моделей компьютерного зрения и видеоаналитики в текущую программу «Контроль кассовых операций».

• Анализ видеопотока: Настройка обработки видеоданных с камер на кассах в режиме реального времени, архива , и анализ событийных чеков .

• Выявление ошибок: Разработка и обучение моделей для автоматического обнаружения нарушений и ошибок в работе кассиров (несоблюдение скриптов, кассовой дисциплины, ошибки обслуживания).

• Оптимизация: Настройка точности и производительности ИИ-моделей под задачи контроля качества.

• Документация: Ведение технической документации по внедрённым решениям.

Требования:

Опыт работы с компьютерным зрением (OpenCV, YOLO, TensorFlow, PyTorch и аналоги).

• Навыки интеграции ИИ-моделей в существующие программные продукты (API, микросервисы).

• Понимание принципов обработки видеопотока в реальном времени или архива.

• Опыт работы с системами видеоаналитики (желательно в ритейле или банковской сфере, медицине).

• Знание баз данных.

Условия:

Работа над реальным продуктом с применением передовых AI-технологий.