Lead инженер внедрения (LLM, MLOps) (Python)

Сейчас мы в поиске Инженер MLSecOps, который усилит нашу команду.

Технические обязанности:

• Проектированием целевых схем и и внедрением механизмов безопасности для ML-пайплайнов.

• Настройкой специализированных механизмов для LLM и GenAI (включая валидацию данных на входе и на выходе работы модели, отслеживание дрифта модели, обнаружение аномалий в работе моделей, контроль использования RAG и пр.).

• Обеспечением прослеживаемости использования моделей и защитой артефактов ML, включая подпись моделей, контроль доступа к реестрам хранения моделей, обнаружение аномалий.

• Консультационной и технической поддержкой команд разработки, тестирования и развертывания ПО по вопросам безопасности использования AI/ML.

• Формированием и развитием целевой архитектуры безопасности ландшафта AI/ML.

• Разработка стандартов и политик безопасности для AI/ML-систем, включая защиту данных, моделей и API.

• Внедрением практик MLSecOps в уже имеющиеся рабочие процессы, связанные с Data Science и MLOps.

• Проектирование и внедрение (настройка) интеграций систем ИБ (IAM, DLP, SIEM, SOAR) с AI/ML-платформами.

• Экспертиза при выборе, внедрении и развитии отдельных AI/ML-платформ для отдельных информационных систем.

• Проведение аналитики проектов, использующих AI/ML и подготовка рекомендаций по митигации рисков использования этих систем.

• Формирование и развитие целевой архитектуры безопасности AI/ML-ландшафта.

Требования:

• Высшее образование в области computer science или смежных областях.
• Опыт работы в должности DevSecOps/MLOps/MLSecOps от 1 года.
• Знание отраслевых стандартов, моделей угроз и методик защиты AI/ML (MITRE ATLAS, NIST AI RMF, OWASP GenAI, OWASP модель угроз ИИ от Сбербанка РФ, Yandex AI Security Agentic Framework, Swordfish SAMM, AI Security Posture Management).
• Понимание основных угроз и рисков использования ML-моделей в современных продуктовых системах. Понимание типов уязвимостей, специфичных для ML (Data Poisoning, Adversarial Prompt Exploits, Model Inversion Attacks, Model Evasion Attacks, Membership Inference Exploits, Model Stealing Attacks, ML Supply Chain Attacks, Model Denial Of Service, Gradient Leakage Attacks, Cloud Infrastructure Attacks, Architecture and Access-control attacks).
• Знание принципов DevSecOps/MLOps, умение самостоятельно настраивать конвейеры сборки и сопутствующие средства защиты информации для процессов сборки и развертывания приложений.
• Опыт развертывания и эксплуатации технических решений по защите AI/ML-систем (Guardrails, MLFlow, Modelscan, Garak).
• Опыт разработки прикладных задач в области ML на Python или других языках программирования (приветствуется).

Условия:

• Гибридный формат работы 4/1 в пользу офиса (полностью удаленного формата нет).
• Конкурентоспособная заработная плата.
• Официальное трудоустройство по ТК РФ, бессрочный договор.
• ДМС после испытательного срока, 31 день отпуска.
• Корпоративное изучение английского языка.
• Работа в профессиональной команде, открытой к сотрудничеству, идеям и инновациям.

О команде:
Наша команда обеспечивает доступность нейросетей для тысяч пользователей одновременно. Мы сопровождаем и улучшаем production-платформу для хостинга LLM: ее надежность, производительность и масштабирование. Кроме того, мы создаём прикладные AI-продукты на базе LLM. Ищем опытного инженера, которому интересно работать и с платформенной частью, и с продуктовой.

Чем предстоит заниматься:

• Инфраструктура и высоконагруженный инференс (Platform Engineering):
• Проектирование и поддержка GPU-кластера инференса (Nvidia) для десятков тысяч пользователей: скалирование, балансировка и приоритизация запросов, пользовательские лимиты;
• Оптимизация производительности: кэширование, батчинг, etc.;
• Надежность и observability: обеспечение SLA и предотвращение регрессий;
• Оценка и внедрение новых LLM.
• Продуктовая разработка (LLM Application):
• Разработка AI-сервисов: AI Code Assistant (Co-Pilot), AI Chat, AI Code Review;
• Проектирование пайплайнов автоматизаций: tool/function calling, обработка ошибок, управление контекстом/состоянием;
• Интеграции: встраивание AI-сервисов в корпоративную среду (API, БД, legacy-системы).
• Исследования и прототипирование (R&D):
• Проведение экспериментов, создание MVP и выстраивание пути доведения до продакшена;
• Исследование новых технологий и подходов для улучшения продуктов.

​​​​​​Мы ждем от будущего члена команды:

• Экспертиза в Python & Backend:
• Опыт разработки на Python (5+ лет), знание стандартов: typing, асинхронность, паттерны проектирования;
• Опыт создания высоконагруженных API (FastAPI или аналоги), работа с очередями, воркерами и фоновыми задачами.
• Архитектура и надежность (Production):
• Опыт построения gateway/router, управление ключами, маршрутизация, пользовательские лимиты;
• Опыт поддержки высоконагруженных сервисов в продакшене: стабильность контрактов, обработка ошибок.
• Глубокие знания LLM & Inference:
• Опыт работы с инструментами инференса (vLLM, SGLang, OpenAI API), понимание их внутренней работы;
• Опыт настройки инференса под highload: latency/throughput, управление GPU-ресурсами;
• Опыт построения решений с tool/function calling: MCP, guardrails, борьба с галлюцинациями.

Дополнительно приветствуем:

• Насмотренность в применении AI агентов, мультиагентных систем, оркестрации инструментов;
• Понимание основных метрик качества LLM решений, опыт проведения A/B-тестов и офлайн-оценки: eval-сеты, human eval, etc;
• Опыт Lua-разработки;
• Опыт разработки и интеграции MCP.

📍 Алматы | Full-time | Office
💰 500 000 KZT (финальный оффер зависит от уровня знаний и практического опыта)

О компании

Biometric.Vision — международная AI-компания, разрабатывающая решения в области Face Biometrics, Digital Identity, KYC, AML, Fraud Prevention и Identity Verification.

Нашими технологиями пользуются банки, финтех-компании, криптоплатформы, телеком-операторы и государственные организации. Мы создаём production-grade AI-продукты для международных рынков.

Чем предстоит заниматься

• Участвовать в разработке и улучшении решений в области Face Biometrics и Identity Verification
• Работать с Computer Vision и Machine Learning моделями
• Участвовать в разработке решений для Face Verification, Liveness Detection, Anti-Spoofing и Deepfake Detection
• Подготавливать, очищать и анализировать датасеты для обучения моделей
• Обучать, тестировать и оценивать ML-модели под руководством более опытных инженеров
• Работать с ML/CV pipeline: от подготовки данных до тестирования и интеграции моделей
• Оптимизировать и улучшать качество моделей
• Анализировать результаты экспериментов и проводить исследования
• Изучать современные подходы и research papers в области Computer Vision и Deep Learning
• Участвовать в разработке и поддержке production ML/CV решений
• Взаимодействовать с ML Engineers, Software Engineers и другими членами технической команды

• Обязательные требования

• Базовые знания Computer Vision и Deep Learning
• Уверенное владение Python
• Практический опыт работы с PyTorch и/или TensorFlow
• Понимание основных принципов обучения и оценки ML-моделей
• Опыт работы с изображениями и/или другими типами данных
• Понимание основных алгоритмов и подходов Computer Vision
• Умение работать с NumPy, Pandas, OpenCV
• Понимание Git и базовых принципов разработки ПО
• Готовность работать с большими объёмами данных
• Интерес к Face Biometrics, AI Security и Computer Vision
• Готовность быстро обучаться и развиваться в направлении ML/CV

• Коммерческий опыт не обязателен, если есть сильные учебные, pet-проекты, стажировки или собственные разработки в области ML/Computer Vision.

  Будет большим плюсом

• Проекты в области Face Recognition / Face Verification / Liveness Detection
• Опыт работы с Anti-Spoofing или Deepfake Detection
• Знакомство с InsightFace, DeepFace
• Опыт работы с ONNX Runtime, TensorRT или CUDA
• Понимание принципов оптимизации inference и latency
• Опыт работы с большими датасетами
• Участие в ML/CV research-проектах
• Опыт внедрения research papers и SOTA-подходов в собственные проекты
• Знание основ MLOps, Docker или CI/CD
• Участие в Kaggle, ML-соревнованиях или open-source проектах

• Технический стек

  Основной:

• Python
• PyTorch / TensorFlow
• OpenCV
• NumPy / Pandas
• Git

• Будет плюсом:

• InsightFace
• DeepFace
• ONNX Runtime
• TensorRT
• CUDA
• Docker
• Kubernetes
• AWS / GCP
• MLOps / CI/CD

• AI-First Engineering

  Мы ожидаем активное использование AI-инструментов в ежедневной работе.

  Будет необходимо использовать AI для:

• AI-assisted coding и debugging
• Research и изучения технической документации
• Анализа и рефакторинга кода
• Генерации и проверки идей
• Работа с LLM API
• Prompt Engineering
• Synthetic Data Generation

• В работе используем инструменты:

• ChatGPT
• Claude
• Gemini
• GitHub Copilot
• Cursor
• Windsurf

• При этом AI-инструменты используются как инженерный помощник, а результаты всегда должны проверяться и валидироваться разработчиком.

  Мы ценим

• Сильную техническую базу и желание развиваться в ML / Computer Vision
• Быстрое обучение и способность самостоятельно разбираться в новых технологиях
• Интерес к современным AI-исследованиям
• Практический подход: умение превращать знания в работающий код
• Внимательность к качеству результатов
• Самостоятельность и ответственность
• Умение задавать вопросы и работать в команде
• Интерес к созданию реальных production AI-продуктов, а не только demo и учебных моделей