Senior AI Engineer (Python, FastAPI)

Halyk Банк – это мощная экосистема, где технологии сочетаются с ценностями.
Мы гордимся более чем 14 000 работниками, которые делают нас лучшим местом работы. Мы предоставляем услуги во всех сегментах финансового рынка: банковском, страховом, лизинговом и т.д.
Мы стремимся стать ведущим цифровым банком, внедряя инновации и предоставляя возможности для роста и развития.
Мы ищем талантливых специалистов, готовых развиваться вместе с нами!

Обязанности:

• Разработка и внедрение LLM/VLM-решений для бизнес-задач компании;
• Проектирование и построение RAG-пайплайнов для работы с корпоративными данными Разработка и оптимизация мульти-агентных систем на базе LangGraph и LangChain Настройка и обслуживание инференс-серверов (vLLM, TGI, TensorRT-LLM) Fine-tuning моделей (LoRA, QLoRA, RLHF, DPO) под специфические задачи;
• Разработка REST API на FastAPI для интеграции ML-сервисов в продукт;
• Контейнеризация и деплой ML-сервисов с помощью Docker и Kubernetes;
• Оптимизация производительности моделей: квантизация, батчинг, управление GPU-памятью;
• Проектирование и поддержка векторных баз данных для хранения эмбеддингов;
• Написание и поддержка автоматических тестов для ML-пайплайнов;
• Мониторинг качества моделей в продакшене (LangSmith, OpenTelemetry);
• Проведение бенчмарков и A/B-тестов для сравнения моделей и подходов;
• Работа с GPU-инфраструктурой: настройка multi-GPU, распределённое обучение
• Подготовка и очистка данных для обучения и оценки моделей;
• Исследование и внедрение новых моделей, техник и фреймворков;
• Написание технической документации и ADR (Architecture Decision Records);
• Участие в код-ревью и менторинг младших специалистов;
• Взаимодействие с продуктовой командой для определения требований и приоритетов;
• Оптимизация стоимости облачной GPU-инфраструктуры;
• Обеспечение безопасности и надёжности ML-сервисов в продакшене.

Требования:

• Python;
• Python 3.10+ (async/await, type hints, dataclasses). SOLID, Clean Architecture, DI. pytest + mocks, Ruff/Black/MyPy, Poetry/uv, Git & CI/CD;
• LLM / VLM
• Transformer (attention, KV-cache).
  Модели: GPT-4, LLaMA 3, Mistral, Qwen, LLaVA, GPT-4o.
  Fine-tuning: LoRA/QLoRA, PEFT, RLHF, DPO.
  Prompting: CoT, ReAct, Few-shot. Evaluation: LLM-as-judge, perplexity. Tokenization (tiktoken);
• LangChain & LangGraph
  LangChain (LCEL, Agents, Tools, Memory), LangGraph (multi-agent graphs), RAG-пайплайны, Vector DB (Chroma, Pinecone, Qdrant, pgvector), LangSmith;
• Инференс
  vLLM (PagedAttention, continuous batching), Quantization (GPTQ, AWQ, GGUF), Serving (vLLM, TGI, TensorRT-LLM), OpenAI-compatible API.
  PyTorch & DL
  PyTorch, Hugging Face (Transformers, PEFT, TRL), Distributed (DDP, FSDP, DeepSpeed), BF16/FP16.
  GPU & Инфраструктура
  NVIDIA (H100, A100, RTX 4090), multi-GPU parallelism, Cloud (AWS/GCP/RunPod), мониторинг nvidia-smi;
• Backend
  FastAPI, Pydantic v2, async (asyncio, httpx), WebSockets/SSE, JWT.
  DevOps
  Docker (GPU), Docker Compose, Kubernetes basics, GitHub Actions, Prometheus/Grafana;
• Хранилища
  PostgreSQL + pgvector, Redis, S3, Vector DBs, Kafka/RabbitMQ.
  Nice to Have
  CrewAI, AutoGen, MLflow/W&B, Airflow, Streamlit/Gradio.
• Уровни опыта:
  Junior: Python, PyTorch, LangChain, Docker
  Middle: Fine-tuning, RAG, vLLM, FastAPI, LangGraph
  Senior: Архитектура, distributed training, MLOps
  Lead: Стратегия, оптимизация затрат, лидерство
  Soft Skills: Аналитическое мышление, техническая коммуникация, быстрое обучение, English B2+, Agile.

Условия:

• Заработная плата и бонусы: конкурентоспособная оплата труда благодаря системе грейдирования, премии ко Дню Независимости и годовой бонус.
• Социальный пакет: ДМС и страхование жизни, мобильная связь и скидки от партнеров.
• Отпуск и отдых: 26 дней отпуска с возможностью взять дополнительные дни при наступлении важных событий.
• Бонусы за рекомендации.
• Рабочие условия: льготные условия на паркинг, свободный стиль одежды (smart casual).
• Обучение и развитие: тренинги, вебинары и доступ к корпоративной библиотеке, четкая система карьерного роста.
• Корпоративная культура: открытая и дружеская рабочая атмосфера, спортивные турниры и активная корпоративная жизнь.
• Инициативы и проекты: возможность участия в социальных проектах, реализация идей в новых проектах группы «Halyk» с использованием современных digital-инструментов.
• Команда: творческая и поддерживающая команда для реализации ваших идей.
• Присоединяйтесь к нам и становитесь частью команды «Halyk»!

We have 30 years of expertise in designing and building custom software systems. We provide software development services focusing on complex high-load applications, AI and BI solutions, and mobile apps.

This is a remote position open to candidates working from any location exсept Russia and Belarus.

Working hours: Central European Time (CET/CEST).

We are looking for an experienced Software Engineer with strong hands-on experience in Python, Java, AWS Lambda and AI Agents for a leading European cloud-first SaaS platform for CFOs, trusted by over 6,500 companies worldwide. Our system unifies data from hundreds of ERPs into a single source of truth and uses AI agents to automate financial close, planning, and audit processes.

Responsibilities

• Develop and maintain the API for a customer-facing financial data collection product.
• Manage AI agents (Claude Code, Codex): write prompts, review agent output, keep instructions up to date.
• Take full End-to-End ownership of quality: write tests and independently verify features in deployed environments.
• As the project evolves — gradually take on frontend tasks (our preferred stack is Angular, with some React) as part of the transition to a full-stack model.

Required Qualifications

• 6+ years of commercial experience with Python 3.12 (FastAPI, Pydantic v2).
• OR strong experience in Java / .NET with a genuine desire to transition to Python for server-side development (we will provide support and time for cross-training).
• Experience with AWS Serverless (Lambda, DynamoDB single-table design, EventBridge, SQS/SNS, S3).
• Real hands-on experience using AI agents for code generation in a production environment.
• Testing and quality stack: pytest (with DynamoDB Local), uv, Ruff, mypy.
• Understanding of IaC (Terraform) and CI/CD (GitHub Actions).
• Understanding of Event-driven and multi-tenant SaaS architecture patterns.
• English level - B2+

What we offer

• Collaboration via a B2B contract with payments in USD or EUR, depending on your preference, or through a labor contract if you are based in Georgia, Serbia, or Kazakhstan.
• Flexible work schedule.
• Possibility to work remotely.
• Opportunities for professional growth.
• A company laptop to ensure a comfortable and efficient work setup.

VitAi World строит цифровые продукты для бизнеса и не только: сайты, внутреннюю CRM-платформу, игры, ботов, интеграции и автоматизацию. Проектов много и они разные, поэтому много и небольших задач: поправить интерфейс, собрать страницу, починить баг, подключить форму.

Мы ищем junior-разработчика, который возьмёт эти задачи на себя. Код у нас в основном пишется с помощью ИИ-агентов вроде Claude Code и Cursor. От вас нужно не набирать код быстро, а аккуратно доводить задачу до конца и понимать, что именно вы сделали.

Какие задачи:

• Сайты и лендинги: вёрстка, правки, адаптация под телефоны, перенос с конструкторов вроде Тильды в код.

• Интерфейс внутренней платформы: экраны, таблицы, формы, доработки по готовому описанию.

• Боты, скрипты и автоматизации, в том числе с LLM.

• Мелкие баги в любом из проектов: воспроизвести, найти причину, исправить.

• Уборка кода, документация, тесты на готовую логику.

Кого мы ищем:

• Знаете хотя бы один язык (JavaScript, TypeScript, Python или другой) на уровне, достаточном, чтобы читать чужой код и понимать, что он делает.

• Делали хотя бы один живой проект: сайт, бота или автоматизацию, которой кто-то пользуется.

• Пользуетесь ИИ-инструментами в работе и проверяете то, что они написали, а не принимаете всё подряд.

• Понимаете основы: клиент и сервер, как работает запрос, зачем нужны git и ветки.

• Спокойно переключаетесь между проектами и быстро разбираетесь в незнакомом коде.

• Сначала разбираетесь в задаче, потом делаете.

• Честно говорите, когда не понимаете или ошиблись, и задаёте вопросы вовремя.

Будет плюсом:

• React, Next.js или TypeScript.

• Tailwind и адаптивная вёрстка.

• Опыт с Тильдой или другими конструкторами сайтов.

• Свой VPS, Docker, опыт выкатки проекта.

• Боты и автоматизации с LLM API.

Как устроена работа:

• Каждая задача в отдельной ветке и через pull request.

• Сначала простые и хорошо проверяемые задачи, потом сложнее по мере того, как растёт опыт.

• Внутренние правила и договорённости записаны, их не нужно угадывать.

Что мы даём:

• Разные реальные проекты, которыми пользуются люди, а не учебные задания.

• Full-time или part-time, удалённо или гибрид.

• Оплата обсуждается по уровню и растёт вместе с задачами.

В отклике покажите проект, который вы сделали сами, и расскажите один случай, когда ИИ написал что-то не то, а вы это заметили.