Senior LLM Inference Backend Engineer (Python, FastAPI)

Мы активно внедряем ИИ в продукты и внутренние ИТ- и бизнес-процессы. Развиваем это направление во многих подразделениях компании, применяем различные инструменты для решения задач. Ищем специалиста, у которого уже есть опыт внедрения ИИ и который усилит текущую команду своей экспертизой.

Если коротко, то нужно оценить входящую идею, понять применим ли здесь ИИ, если применим – понять, что требуется для реализации, проанализировать и согласовать решение, внедрить его, подготовить документацию, обучить заказчика, собрать обратную связь по итогам внедрения, контролировать работоспособность, поддерживать и развивать продукт.

У нас есть наставники, разработчики и интересные практические кейсы.

Обязанности:

• Анализировать бизнес-процессы компании и находить точки для автоматизации на основе ИИ.
• Переводить задачи бизнеса в технические требования, определять ресурсы и план внедрения.
• Оценивать и подбирать AI-сервисы, модели и технологические подходы для решения задач бизнеса.
• Внедрять и поддерживать: RAG-системы, корпоративные базы знаний, AI-агентов.
• Проектировать логику агентов: tool-calling, оркестрацию, работу с low-code/no-code платформами (n8n, аналоги).
• Разрабатывать, тестировать и оптимизировать промпты, вести их версионирование.
• Строить сценарии автоматизации через прямую работу с API.
• Закладывать в решения требования к отказоустойчивости, производительности и масштабируемости
• Разворачивать и настраивать AI-инструменты на инфраструктуре компании, доводить решения до промышленного качества
• Разворачивать и дообучать собственные модели на сервере (fine-tuning, локальный инференс)
• Определять схему размещения, организовывать тестовый и промышленный контуры, формулировать требования к инфраструктуре (CPU/GPU, storage, networking)
• Интегрировать решения с корпоративными системами, системами авторизации и мониторинга
• Координировать работу с IT-командой, разработчиками и заказчиками.
• Согласовывать с командой информационной безопасности варианты имплементации ИИ.
• Контролировать передачу данных внешним провайдерам, оценивать риски внешних LLM/API.
• Управлять доступом и разграничением прав пользователей и агентов.
• Технически оценивать предложения подрядчиков, формировать технические требования, участвовать в пилотировании вендорских решений, тестированиях.
• Измерять эффективность внедрённых решений через метрики.
• Обучать сотрудников работе с внедрёнными ИИ сервисами.
• Сопровождать и поддерживать ИИ-проекты после внедрения.
• Масштабировать успешные кейсы на другие подразделения.

Требования:

• Практический опыт работы с LLM (ChatGPT, Claude, Gemini и др.) через API, а не только через веб-интерфейс
• Понимание принципов работы transformer-архитектур, эмбеддингов, токенизации
• Понимание Docker и контейнеризации для развёртывания сервисов
• Опыт внедрения и интеграции IT-решений
• Понимание enterprise IT-ландшафта корпоративных систем
• Понимание требований информационной безопасности при работе с ИИ и основ работы с персональными данными, конфиденциальной информацией
• Навыки Prompt Engineering: few-shot, chain-of-thought, structured output. Опыт разработки, тестирования и версионирования промптов - желательно
• Владение Python как преимущество
• Опыт работы с vLLM, Ollama и подобными платформами
• Понимание и опыт работы с API
• Знание базового SQL
• Знание основ анализа данных и машинного обучения
• Опыт построения RAG-систем и работы с векторными базами данных – как преимущество
• Опыт работы с фреймворками для оркестрации LLM: LangChain, LlamaIndex или аналоги как преимущество
• Практика работы с low-code/no-code платформами автоматизации (n8n) как преимущество
• Опыт дообучения открытых моделей и квантизация как преимущество
• Опыт работы с GPU-серверами, CUDA, оптимизации инференса под железо как преимущество
• Понимание основ MLOps/LLMOps: версионирование моделей, мониторинг, логирование инференса; Kubernetes как преимущество
• Опыт работы в промышленностиьили в крупных компаниях как преимущество
• Опыт внедрения чат-ботов, голосовых ассистентов, систем распознавания как преимущество
• Аналитическое мышление: умение анализировать задачи бизнеса, оценивать эффективность решений и переводить их на язык технических требований
• Коммуникабельность и навыки презентаций: работа с разными стейкхолдерами — разработчиками, аналитиками, руководством, подрядчиками, умение говорить нет и обосновывать почему
• Наставничество: умение обучать сотрудников работе с внедрёнными AI-системами
• Инициативность и проактивность, готовность к обучению и быстро осваивать новые AI-инструменты и модели
• Системный подход и внимательность к деталям, ответственность за качество решений
• Высшее образование
• Опыт работы в IT 4+ лет, управление крупными IT/цифровыми проектами, внедрение ИИ.

Условия:

• Оформление в соответствии с ТК РФ, наличие IT аккредитации Минцифры;
• Конкурентоспособное вознаграждение, годовые бонусы;
• ДМС (со стоматологией) и страхование жизни;
• Индивидуально обсуждаем возможность удаленного формата работы с командировками в Москву;
• Возможности для карьерного роста и профессионального развития;
• Уникальная корпоративная культура, которая поощряет индивидуальные достижения и ценит командную работу;
• Работа в команде профессионалов одного из крупнейших производителей электротехнического оборудования.

Ищем специалиста в команду методологии, который будет разрабатывать, внедрять и поддерживать процессы и стандарты для проектов в сфере классического машинного обучения (classic ML) и интеллектуальных агентов (AI-агентов). Кандидат должен обладать глубоким пониманием жизненного цикла ML-проектов, современных подходов к построению AI-агентов, а также опытом формализации и масштабирования лучших практик.

·         Разработка и описание методологий и процессов для реализации проектов в области Classic ML и AI-агентов.

·         Формирование стандартов по этапам жизненного цикла моделей: от постановки задачи до внедрения.

·         Внедрение процессов разработки и внедрения Classic ML и AI-агентов.

·         Поддержка команд в применении методологии, проведение meetup’ов и консультаций.

·         Анализ и внедрение новых подходов в области ML и AI-агентов, адаптация лучших практик под специфику компании.

·         Подготовка технических заданий, user stories, sequence диаграмм.

·     Проектирование архитектуры процессов совместно с техническими специалистами (архитекторами, разработчиками).

• Понимание принципов BPMN, IDEF0, EPC для моделирования и описания бизнес-процессов.
• Глубокое понимание жизненного цикла ML-проектов (от сбора данных до эксплуатации моделей).
• Знание принципов построения и обучения AI-агентов .
• Опыт работы разработки процессной, методологической или проектной документации.
• Аналитическое мышление: умение работать с данными, формировать отчеты, визуализировать статусы и метрики.
• Самостоятельность: готовность брать на себя ответственность за организационные вопросы и эскалацию проблем.
• Умение работать с командами разработки, аналитики и продуктовыми менеджерами.
• Желание развиваться в AI / MLOps: интерес к технологиям машинного обучения, платформенным решениям и процессам разработки AI.

Будет плюсом:

• Опыт внедрения MLOps-практик.

• Опыт внедрения стандартов управления проектами (PMBOK, PRINCE2, Agile/Scrum).

• Навыки проектирования архитектуры систем, баз данных, интеграционных взаимодействий

• Знание методов интеграций, форматов и стандартов (REST, SOAP).

• Понимание транспортных протоколов (HTTP, HTTPS)

• Понимание взаимодействие через Kafka, MQ

• Навыки адаптации стандартов под специфику ML/AI-проектов.

• Знание современных архитектур AI-агентов (например, RL, планировщики, оркестраторы).

• Опыт работы с большими данными и распределёнными вычислениями.

• Навыки программирования на Python, опыт работы с ML-библиотеками (scikit-learn, TensorFlow, PyTorch).

• комфортный современный офис рядом с м. Тульская

• возможность выбрать удобный график – офис/гибрид

• ежегодный пересмотр зарплаты и годовая премия

• корпоративный спортзал и зоны отдыха

• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития

• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа

• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ

• подписка Прайм с возможностью совместного использования на трёх близких

• вознаграждение за рекомендацию друзей в команду Сбера

OsteoFace ищет IT-менеджера / AI-интегратора

Нужен сильный технический специалист, который умеет не только обсуждать идеи, а самостоятельно внедрять и доводить автоматизации до рабочего результата.

Что предстоит делать:
— интегрировать CRM, мессенджеры, соцсети и AI-сервисы;
— работать с ChatGPT/Claude и AI-агентами;
— связывать системы через API, webhook, Albato/Make и другие инструменты;
— автоматизировать Instagram, WhatsApp, Telegram, Google Calendar, Airtable/CRM;
— настраивать передачу лидов, уведомления, запись клиентов и аналитику;
— находить и устранять ошибки в автоматизациях;
— самостоятельно предлагать более простые и эффективные технические решения;
— документировать систему так, чтобы компания не зависела от одного специалиста.

Что для нас важно:
— практический опыт интеграций и автоматизации;
— понимание API, webhook, JSON;
— опыт работы с no-code/low-code платформами;
— умение разбираться в незнакомом сервисе самостоятельно;
— способность доводить задачу до работающего результата;
— аккуратность с доступами и данными.

Большой плюс: Chatfuel, Meta/Instagram API, WhatsApp API, Airtable, Albato, Make, n8n, Telegram Bot API, Google Calendar, OpenAI API.

Мы строим единую AI-систему OsteoFace и ищем человека, который сможет стать техническим ядром этой системы.