Agentic Systems Engineer (Java, Kotlin)

We have 30 years of expertise in designing and building custom software systems. We provide software development services focusing on complex high-load applications, AI and BI solutions, and mobile apps.

This is a remote position open to candidates working from any location exсept Russia and Belarus.

Working hours: Central European Time (CET/CEST).

We are looking for an experienced Software Engineer with strong hands-on experience in Python, Java, AWS Lambda and AI Agents for a leading European cloud-first SaaS platform for CFOs, trusted by over 6,500 companies worldwide. Our system unifies data from hundreds of ERPs into a single source of truth and uses AI agents to automate financial close, planning, and audit processes.

Responsibilities

• Develop and maintain the API for a customer-facing financial data collection product.
• Manage AI agents (Claude Code, Codex): write prompts, review agent output, keep instructions up to date.
• Take full End-to-End ownership of quality: write tests and independently verify features in deployed environments.
• As the project evolves — gradually take on frontend tasks (our preferred stack is Angular, with some React) as part of the transition to a full-stack model.

Required Qualifications

• 6+ years of commercial experience with Python 3.12 (FastAPI, Pydantic v2).
• OR strong experience in Java / .NET with a genuine desire to transition to Python for server-side development (we will provide support and time for cross-training).
• Experience with AWS Serverless (Lambda, DynamoDB single-table design, EventBridge, SQS/SNS, S3).
• Real hands-on experience using AI agents for code generation in a production environment.
• Testing and quality stack: pytest (with DynamoDB Local), uv, Ruff, mypy.
• Understanding of IaC (Terraform) and CI/CD (GitHub Actions).
• Understanding of Event-driven and multi-tenant SaaS architecture patterns.
• English level - B2+

What we offer

• Collaboration via a B2B contract with payments in USD or EUR, depending on your preference, or through a labor contract if you are based in Georgia, Serbia, or Kazakhstan.
• Flexible work schedule.
• Possibility to work remotely.
• Opportunities for professional growth.
• A company laptop to ensure a comfortable and efficient work setup.

We have 30 years of expertise in designing and building custom software systems. We provide software development services focusing on complex high-load applications, AI and BI solutions, and mobile apps.

This is a remote position open to candidates working from any location except Russia and Belarus.

Working hours: Central European Time (CET/CEST).

We are looking for an experienced Software Engineer with strong hands-on experience in Java, Python, AWS Lambda and AI Agents for a leading European cloud-first SaaS platform for CFOs, trusted by over 6,500 companies worldwide. Our system unifies data from hundreds of ERPs into a single source of truth and uses AI agents to automate financial close, planning, and audit processes.

Responsibilities

• Develop and maintain foundational shared platform services: SSO, tenant management, user management, notifications, file storage, audit logs, feature flags.
• Participate in orchestrating provisioning and updates of tenants, regions, and shared infrastructure (Control Plane).
• Manage AI agents (Claude Code, Codex): assign tasks, critically review generated code, update instructions and prompts.
• Take full End-to-End ownership of quality: write tests (unit, integration, E2E) and independently verify features in production.

Required Qualifications

• 6+ years of commercial experience with Java, Python or C#.Net.
• Experience building serverless applications on AWS (Lambda, Step Functions, EventBridge, SQS/SNS, S3, KMS).
• Knowledge of Gradle (including large multi-module builds), Dagger, Event-driven patterns, and multi-tenant SaaS architecture.
• Deep understanding of Terraform and GitHub Actions CI/CD.
• Real hands-on experience working with AI agents for code generation (or strong willingness to actively develop this skill).
• Testing stack: JUnit, Testcontainers/LocalStack, PITest, Mockito, WireMock.
• English level - B2+

What we offer

• Collaboration via a B2B contract with payments in USD or EUR, depending on your preference, or through a labor contract if you are based in Georgia, Serbia, or Kazakhstan.
• Flexible work schedule.
• Possibility to work remotely.
• Opportunities for professional growth.
• A company laptop to ensure a comfortable and efficient work setup.

Halyk Банк – это мощная экосистема, где технологии сочетаются с ценностями.
Мы гордимся более чем 14 000 работниками, которые делают нас лучшим местом работы. Мы предоставляем услуги во всех сегментах финансового рынка: банковском, страховом, лизинговом и т.д.
Мы стремимся стать ведущим цифровым банком, внедряя инновации и предоставляя возможности для роста и развития.
Мы ищем талантливых специалистов, готовых развиваться вместе с нами!

Обязанности:

• Разработка и внедрение LLM/VLM-решений для бизнес-задач компании;
• Проектирование и построение RAG-пайплайнов для работы с корпоративными данными Разработка и оптимизация мульти-агентных систем на базе LangGraph и LangChain Настройка и обслуживание инференс-серверов (vLLM, TGI, TensorRT-LLM) Fine-tuning моделей (LoRA, QLoRA, RLHF, DPO) под специфические задачи;
• Разработка REST API на FastAPI для интеграции ML-сервисов в продукт;
• Контейнеризация и деплой ML-сервисов с помощью Docker и Kubernetes;
• Оптимизация производительности моделей: квантизация, батчинг, управление GPU-памятью;
• Проектирование и поддержка векторных баз данных для хранения эмбеддингов;
• Написание и поддержка автоматических тестов для ML-пайплайнов;
• Мониторинг качества моделей в продакшене (LangSmith, OpenTelemetry);
• Проведение бенчмарков и A/B-тестов для сравнения моделей и подходов;
• Работа с GPU-инфраструктурой: настройка multi-GPU, распределённое обучение
• Подготовка и очистка данных для обучения и оценки моделей;
• Исследование и внедрение новых моделей, техник и фреймворков;
• Написание технической документации и ADR (Architecture Decision Records);
• Участие в код-ревью и менторинг младших специалистов;
• Взаимодействие с продуктовой командой для определения требований и приоритетов;
• Оптимизация стоимости облачной GPU-инфраструктуры;
• Обеспечение безопасности и надёжности ML-сервисов в продакшене.

Требования:

• Python;
• Python 3.10+ (async/await, type hints, dataclasses). SOLID, Clean Architecture, DI. pytest + mocks, Ruff/Black/MyPy, Poetry/uv, Git & CI/CD;
• LLM / VLM
• Transformer (attention, KV-cache).
  Модели: GPT-4, LLaMA 3, Mistral, Qwen, LLaVA, GPT-4o.
  Fine-tuning: LoRA/QLoRA, PEFT, RLHF, DPO.
  Prompting: CoT, ReAct, Few-shot. Evaluation: LLM-as-judge, perplexity. Tokenization (tiktoken);
• LangChain & LangGraph
  LangChain (LCEL, Agents, Tools, Memory), LangGraph (multi-agent graphs), RAG-пайплайны, Vector DB (Chroma, Pinecone, Qdrant, pgvector), LangSmith;
• Инференс
  vLLM (PagedAttention, continuous batching), Quantization (GPTQ, AWQ, GGUF), Serving (vLLM, TGI, TensorRT-LLM), OpenAI-compatible API.
  PyTorch & DL
  PyTorch, Hugging Face (Transformers, PEFT, TRL), Distributed (DDP, FSDP, DeepSpeed), BF16/FP16.
  GPU & Инфраструктура
  NVIDIA (H100, A100, RTX 4090), multi-GPU parallelism, Cloud (AWS/GCP/RunPod), мониторинг nvidia-smi;
• Backend
  FastAPI, Pydantic v2, async (asyncio, httpx), WebSockets/SSE, JWT.
  DevOps
  Docker (GPU), Docker Compose, Kubernetes basics, GitHub Actions, Prometheus/Grafana;
• Хранилища
  PostgreSQL + pgvector, Redis, S3, Vector DBs, Kafka/RabbitMQ.
  Nice to Have
  CrewAI, AutoGen, MLflow/W&B, Airflow, Streamlit/Gradio.
• Уровни опыта:
  Junior: Python, PyTorch, LangChain, Docker
  Middle: Fine-tuning, RAG, vLLM, FastAPI, LangGraph
  Senior: Архитектура, distributed training, MLOps
  Lead: Стратегия, оптимизация затрат, лидерство
  Soft Skills: Аналитическое мышление, техническая коммуникация, быстрое обучение, English B2+, Agile.

Условия:

• Заработная плата и бонусы: конкурентоспособная оплата труда благодаря системе грейдирования, премии ко Дню Независимости и годовой бонус.
• Социальный пакет: ДМС и страхование жизни, мобильная связь и скидки от партнеров.
• Отпуск и отдых: 26 дней отпуска с возможностью взять дополнительные дни при наступлении важных событий.
• Бонусы за рекомендации.
• Рабочие условия: льготные условия на паркинг, свободный стиль одежды (smart casual).
• Обучение и развитие: тренинги, вебинары и доступ к корпоративной библиотеке, четкая система карьерного роста.
• Корпоративная культура: открытая и дружеская рабочая атмосфера, спортивные турниры и активная корпоративная жизнь.
• Инициативы и проекты: возможность участия в социальных проектах, реализация идей в новых проектах группы «Halyk» с использованием современных digital-инструментов.
• Команда: творческая и поддерживающая команда для реализации ваших идей.
• Присоединяйтесь к нам и становитесь частью команды «Halyk»!