Middle AQA Python инженер

Наша команда разрабатывает и поддерживает сберегательные продукты и сервисы на базе AI-агентов. Мы ищем тестировщика с опытом коммерческой разработки от 5 лет, уверенным владением автоматизацией на Python/Java и интересом к тестированию AI-решений, включая предиктивные модели и витрины данных.

Задачи

• функциональное, интеграционное и регрессионное тестирование API-сервисов и AI-агентов

• написание на Python автотестов для проверки цепочек вызовов AI-агентов

• ввтоматизация оценки качества недетерминированных ответов AI-агентов

• выявление нарушений качества ответов AI-агентов на ранних этапах при изменениях версий

• разработка тестов для проверки корректности предиктивных моделей и рекомендательных алгоритмов (качество предсказаний, стабильность, отсутствие регрессий)

• оценка качества недетерминированных ответов с использованием статистических методов (сравнение распределений, обнаружение drift’ов)

• участие в построении тестов для A/B-экспериментов: проверка корректности групп, метрик качества

• разработка и поддержание актуальности тестовой документации

• статический анализ требований, макетов, спецификаций и кода при локализации дефектов

• анализ возникающих проблем, локализация ошибок, оформление дефектов и контроль их устранения

• подготовка тестовых данных

• участие в agile-мероприятиях (дейли, планирование, ретроспектива).

• опыт тестирования крупных сервисов с большим ветвлением

• опыт тестирования AI-агентов будет преимуществом

• опыт использования Python для анализа данных: pandas, numpy (валидация выборок, проверка срезов витрин

• знание теории тестирования, принципов разработки тестовой документации

• уверенное знание Python 3 (core, Pytest, pytest-asyncio, Selenium, Selenoid, httpx, allure), опыт автоматизации тестирования от 3 лет

• знание основ SQL, опыт работы с базами данных на уровне запросов с объединением нескольких таблиц, сортировки, группировки (Oracle, Postgres, MongoDB)

• основы CI/CD (Jenkins, GitLab CI/CD) для запуска тестов

• понимание принципов работы с LLM (на проекте используется GigaChat) и опыт интеграции с ними по API

• внятная грамотная речь, коммуникабельность, стрессоустойчивость.

Будет плюсом

• понимание банковской предметной области

• опыт работы с Java для поддержки legacy-автотестов (не основной инструмент, но приветствуется)

• опыт тестирования систем на основе ML/data-driven (проверка распределений предсказаний, метрик качества, отсутствия утечек данных)

• понимание метрик рекомендательных систем: Precision/Recall на уровне портфелей, coverage, NDCG (или аналогов)

• опыт работы с витринами и ETL-процессами: умение написать автотест, проверяющий консистентность данных между источником и витриной.

• гибкий формат работы

• годовой бонус и ежегодный пересмотр зарплаты

• расширенный ДМС с первого дня и льготное страхование для семьи

• корпоративный университет Сбера, внутренняя образовательная платформа, участие в IT-конференциях

• офис на Кутузовской, зонами отдыха и спортзалом

• льготная ипотека в Сбере, корпоративная пенсионная программа, подписка СберПрайм+ с возможностью совместного использования на трёх близких.