Senior MLOps Engineer (Python)

Location

Madrid, Spain, or remote across Europe and the United Kingdom; applicants must be authorized to work in the country where they apply.

About the company

A global AI cloud provider building a full-stack platform that takes developers and enterprises from data and model training to production deployment. Its 1,500+ person team, including hundreds of engineers, works across compute, storage, networking and applied AI, with R&D hubs in Europe, the UK, North America and Israel.

Responsibilities

• Tune GPU clusters and InfiniBand networks to keep HPC and GPU workloads running at peak performance.
• Diagnose the root causes of GPU and InfiniBand issues and drive corrective fixes.
• Bring new hardware, including new GPUs, into the existing stack via Kubernetes, QEMU and KVM.
• Build out automation for proactive monitoring, fault detection and resolution, and manage GPU devices and InfiniBand fabrics.

Requirements

• 5+ years of system-level software development focused on performance optimization and low-level programming.
• 3+ years of hands-on Linux administration, troubleshooting and performance tuning.
• Solid grasp of server architecture: PCIe devices, NICs, the Linux kernel and HPC systems.
• Strong skills in at least one performance-oriented language such as C/C++, Go or Python.

Location

The role is based in Lithuania, with compensation for other locations discussed during the interview process; no specific remote or on-site format is stated.

About the company

A global financial technology company building a broad consumer finance super app, serving tens of millions of customers with products spanning spending, saving, investing, exchanging, and travel.

The technology organization develops the infrastructure and features behind the app and is expanding its internal AI agent capabilities within a heavily regulated financial environment.

Responsibilities

• Design, build, and maintain scalable Python services, APIs, and data pipelines for an internal agent platform
• Develop and deploy LLM agents, covering tool integrations, orchestration, and state management
• Create reusable platform capabilities so teams can develop, test, and run AI agents in production
• Improve agent reliability, observability, performance, and cost efficiency through evaluation, monitoring, and robust error handling
• Break down complex AI and backend problems into technical designs, reviewable components, and delivery plans, and review designs and code for security and maintainability

Requirements

• 5+ years as a software engineer focused on backend systems, including 3+ years using Python as the primary language
• Hands-on experience building LLM agents, with production experience in AI agent systems or platforms, plus a STEM academic background
• Fluency in SQL and proficiency in another object-oriented language, with experience in API development, integration, and distributed systems
• Ability to write concurrent code for I/O-bound and CPU-bound workloads and familiarity with Docker, Kubernetes, CI/CD, monitoring, and alerting
• Understanding of production agent challenges such as tool execution, context management, evaluation, and failure handling, and the ability to turn ambiguous requirements into clear designs and trade-offs

О команде

Мы развиваем внутреннюю on-prem AI-платформу, которой пользуется вся компания: собственный inference на GPU, LLM-шлюз, RAG и AI-агенты в защищённом контуре. Приоритет — собственная инфраструктура там, где это критично. Помимо собственных моделей, платформа обеспечивает безопасное использование внешних моделей; при этом работа с моделями и AI-агентами выполняется в изолированной песочнице (sandbox), ограничивающей доступ к файлам, сети и данным.

Эта роль — про развитие AI-платформы изнутри: установку и конфигурирование AI-сервисов, их развёртывание в Docker и Kubernetes, запуск новых моделей на нашем GPU-оборудовании и обеспечение их безопасности и производительности. Мы ищем инженера с сильным техническим бэкграундом в администрировании Linux, контейнеризации, автоматизации и информационной безопасности.

Чем предстоит заниматься

• Установка, конфигурирование и развитие AI-платформ: веб-интерфейсы для моделей, LLM-шлюзы, оркестрация AI-workflow и агентов, облачные среды разработки (CDE), RAG-платформы
• Развёртывание и сопровождение сервисов: контейнеризация (Docker) и оркестрация (Kubernetes)
• Развёртывание и запуск новых моделей на сервисах инференса (vLLM и аналогичные) с учётом возможностей GPU, включая оптимизацию и quantization
• Безопасные конфигурации (hardening, secure by design) и безопасность платформы: RBAC, secrets management, network policies, изоляция моделей, защита от prompt injection
• Обеспечение изолированного и безопасного выполнения моделей и AI-агентов (sandbox)
• Автоматизация развёртывания и обновления, управление конфигурациями (IaC, CI/CD, GitOps)
• Мониторинг, диагностика и оптимизация производительности; контроль latency, throughput и стоимости инференса
• Оценка качества моделей (evals) и наблюдаемость (observability)
• Развитие и продвижение использования AI-технологий в компании
• Контроль лицензий open-weight моделей и требований compliance
• Взаимодействие с командами разработки и инфраструктуры, подготовка документации
• Обучение и консультирование сотрудников по работе с AI-инструментами

Что для нас важно

• Высшее образование (техническое)
• Опыт работы в роли AI/ML Platform, MLOps или DevOps инженера от 3 лет
• Уверенное понимание принципов работы LLM, RAG и векторных баз данных
• Опыт развёртывания и эксплуатации сервисов: контейнеризация (Docker) и оркестрация (Kubernetes)
• Опыт развёртывания и эксплуатации моделей машинного обучения/LLM на серверных сервисах инференса (vLLM, SGLang, TGI)
• Опыт администрирования Linux
• Навыки работы с GPU (NVIDIA CUDA, VRAM, оптимизация инференса)
• Уверенное владение Python и скриптовыми языками для автоматизации
• Опыт построения CI/CD и управления конфигурациями (Ansible, Terraform, Helm)
• Понимание принципов информационной безопасности и разграничения доступа (RBAC, secrets management)
• Опыт production-эксплуатации: мониторинг, evals, контроль latency, throughput и стоимости
• Аналитические навыки и навыки поиска и устранения неисправностей
• Английский язык на уровне Intermediate и выше

Будет плюсом

• Опыт работы с Open WebUI, LiteLLM, Langflow, RAGFlow, OpenHands и аналогичными
• Опыт администрирования Windows Server
• Опыт с локальными рантаймами инференса (Ollama, llama.cpp);
• Понимание MCP и agentic AI
• Опыт мониторинга (Prometheus, Grafana) и логирования
• Знание принципов fine-tuning и оценки качества моделей
• Хорошие коммуникативные и презентационные навыки

Что мы предлагаем

• Прозрачный карьерный рост: индивидуальный карьерный трек, программы коучинга и менторинга
• Возможность внести свой вклад в изменения бизнеса и расширить профессиональную экспертизу
• Команда профессионалов, которые поддерживают друг друга и работают на результат
• Гибкие начало и конец рабочего дня, возможность работать из офиса или из дома
• Корпоративное обучение: более 50 тренингов, доступ к изучению иностранных языков и электронной библиотеке
• Забота о сотрудниках: ДМС со стоматологией с первого месяца работы и скидка на ДМС для родственников, 5 оплачиваемых дней в году по болезни без оформления больничного, корпоративный спорт и мероприятия, скидки партнеров, программа психологического здоровья, комфортный и стильный офис
• Конкурентная заработная плата, бонусы по итогам финансового года и годовой оценки сотрудника, премии за интенсивную работу и выдающиеся результаты
• Официальное трудоустройство