Inference-инженер (Python, FastAPI)
Ищем Inference-инженера в команду разработки внутренней LLM-платформы Точка Банк.
точка_банк · На сервисе с: 16.07.26 12:29
Ищем Inference-инженера в команду разработки внутренней LLM-платформы Точка Банк.
Мы — финтех-компания, создаём онлайн-банк и экосистему сервисов для бизнеса.
📍До 700 000 ₽, удалёнка по всему миру, возможность влиять и быть услышанным.
Фокус команды — техническая инфраструктура и базовые инструменты. Мы развиваем LLM-гейтвей, инференс внутренней LLM, систему Information Retrieval и guardrails. Именно на этих компонентах строится работа с нейросетями.
Мы плотно работаем с инференс-движками: не просто запускаем, а конфигурируем под highload и патчим исходный код при необходимости.
Ты подойдёшь, если
- Есть опыт работы с Python и asyncio, а также с aiohttp и FastAPI от 4 лет.
- Любишь работать на низком уровне: тебе интересно разбираться, как инструменты работают под капотом, а также оптимизировать их производительность.
- Спокойно относишься к тому, что в поиске лучшего решения код может часто меняться или «выбрасываться».
- Комфортно работаешь в условиях неопределённости и быстрых экспериментов.
- Умеешь брать ответственность за результат и коммуникацию.
Самостоятельно организуешь свою работу и определяешь вектор, исходя из прозрачных целей команды.
- Есть опыт работы с ML-инфраструктурой и ML-сервисами. Понимаешь базовые принципы работы LLM, их ограничения и возможности.
Подробнее ••••••••
Похожие вакансии MLOps инженер
Новая локация офиса:
В ноябре переезжаем в новый офис в Сколково. Сейчас работаем на Соколе - пожалуйста, учитывайте это при отклике на вакансию.
Обязанности:
- Разработка сервисов на python для интеграции моделей в прод;
- Поддержка команды DS/MLE в интеграции моделей и использовании инструментов для ML;
- Проводить тестирование SOTA-решений;
- Настраивать мониторинг моделей;
- Разбор инцидентов связанных с эксплуатацией МЛ-моделей в проде;
- -Разработка и поддержка дагов Airflow.
- Хорошее знание Python (стандартные и ML библиотеки, умение применять ООП);
- Понимание принципов построения моделей машинного обучения;
- Опыт реализации микросервисов (Flask, Fastapi);
- Знание SQL;
- Опыт работы с платформами MLOps (ClearML, MLFlow);
- Опыт работы c Docker и k8s;
- Опыт работы с моделями глубинного обучения;
- Опыт работы с внедрением нейросетевых ML-моделей CV и NLP;
- Опыт оптимизации инференса нейросетей: onnx, tensorrt, triton server;
- Опыт работы с векторными БД (milvus, qdrant);
- Опыт работы с брокерами сообщений: Kafka, Rabbit.
Наш стек:
Python (pytorch), gitlab, airflow, Docker, Kubernetes, Postgres, ClickHouse, Trino, Airflow, Kafka, Milvus
Мощности:
Для экспериментов и в проде используем сервера с видеокартами в том числе A100, L40
Офис, где приятно быть
— Уютное пространство с зонами коворкинга — выбирай, где работать
Здоровье под защитой
— ДМС (стоматология включена)
— Врач прямо в офисе
Вкусно и бесплатно
— Фреш-бар от Novikov Group
— Кофе, чай, фрукты, снэки — каждый день
Отдых без компромиссов
— Обеденные зоны с настолками и массажными креслами Yamaguchi
Оформление по ТК РФ
— Всё официально
HireSeeker собирает вакансии со всех площадок и присылает только релевантные. Бесплатно.