S

Lead ML Engineer - LLM Inference & NLP (Python, C#)

Social Discovery Group (SDG) is a group of social discovery companies. SDG solves the problems of loneliness, isolation, and disconnection - transforming virtual intimacy into the new normal. SDG’s products redefine the way people interact…

social discovery group

↑ Вакансия с автоподнятием
Зарплата не указанаСербия

Social Discovery Group (SDG) is a group of social discovery companies. SDG solves the problems of loneliness, isolation, and disconnection - transforming virtual intimacy into the new normal. SDG’s products redefine the way people interact and connect with one another.


Our portfolio includes social entertainment platforms designed to connect people online across different cultures and regions of the world.


We bring together a team of like-minded people and IT professionals who specialize in creating and developing globally impactful social discovery products. Our international team of digital nomads works remotely from all over the world.


We’re proud to be a two-time “Great Place to Work” winner (USA & Japan, 2024–2025) and a Top-5 Company for Work-From-Anywhere Jobs (FlexJobs, 2025).


We are looking for Lead ML Engineer -LLM Inference & NLP.


Your main tasks will be:


  • Speed up and scale LLM inference in production: SGLang, KV and prefix caching, batching, quantization, speculative decoding

  • Run distributed inference for very large models (up to 1T+ parameters) across multi-GPU and multi-node setups

  • Benchmark new GPU servers and hardware, bring them into production and adapt our serving code to them

  • Lead the NLP and CV teams technically: review experiments, set direction, and step in early when something is heading the wrong way

  • Train and fine-tune the language models, and improve the agent harnesses and chat algorithm that run on them

  • Track cutting-edge research and open-source work in inference and post-training, and turn it into the ML roadmap

  • Collaborate closely with the validation, content, and dataset preparation teams to design experiments and measure model quality


    We expect from you:


    • Deep hands-on experience optimizing LLM inference in production with SGLang, vLLM, or TensorRT-LLM

    • Experience with distributed inference or training of large models: MoE, tensor/expert/pipeline parallelism, multi-node GPU clusters

    • Strong understanding of what makes inference fast: KV cache, attention kernels, batching, quantization, GPU profiling

    • Experience training and fine-tuning LLMs, including post-training (RLHF, DPO, or similar)

    • Proven technical leadership: you've guided engineers through reviews, mentoring and technical decisions while still writing code yourself

    • Proficiency with PyTorch, transformers, and related libraries

    • Experience at AI-focused startups or companies (Character AI, OpenAI, and similar is a strong plus)

    • Backend engineering experience (Python, Go, C#) and knowledge of scalable deployment systems is a significant advantage

    • Advanced English or Russian


    Nice to have:



    • CUDA or Triton kernel development

    • A computer vision background. We also welcome strong CV leads who have accelerated large generative image or video models

    • Experience with multimodal LLMs

    • First-author papers or notable open-source work, e.g. contributions to SGLang, vLLM, or post-training libraries

    • A degree in CS, math, or physics from a strong program (MSc or PhD)



    What do we offer:


    • REMOTE OPPORTUNITY to work full-time;
    • The initial pay level or pay range for this role will be shared with candidates during the recruitment process and before the commencement of employment;
    • Vacation 28 calendar days per year;
    • 7 wellness days per year (time off) that can be used to deal with household issues, to lie down and recover without taking sick leave;
    • Bonuses up to $5000 for recommending successful applicants for positions in the company;
    • 50% payment for professional training, international conferences, and meetings;
    • Corporate discount for English lessons;
    • ​Health benefits. According to the paychecks, if you are not eligible for corporate medical insurance, the company will compensate you with up to $ 1,000 gross per year per employee. This can be spent on self-purchase of health insurance or on doctor’s fees for yourself and close relatives (spouse, children);
    • ​Workplace organization. The company provides all employees with an equipped workplace and all the necessary equipment (table, armchair, wifi, etc.) in our offices or co-working locations. In the other locations, the company provides reimbursement of workplace costs up to $ 1000 gross once every 3 years, according to the paychecks. This money can be spent on the rent of the co-working room, on equipping the working place at home (desk, chair, Internet, etc.) during those 3 years;
    • Internal gamified gratitude system: receive bonuses from colleagues and exchange them for our merchandise, team building activities, massage certificates, etc. 

    Sounds good? Join us now!

    Похожие вакансии Data Science & ML

    hh.ru
    AI Think

    Инженер машинного зрения (Computer Vision Engineer)

    AI Think
    80k–110k ₽РоссияМоскваУдалёнка

    О компании

    AI Think — российская технологическая компания, которая разрабатывает программные решения на базе искусственного интеллекта. Наши технологии помогают предприятиям оптимизировать производственные процессы, снижать издержки и автоматизировать сложные задачи.

    Основное направление — прикладные AI-решения для бизнеса: системы анализа данных, интеллектуальные алгоритмы и промышленные системы компьютерного зрения.

    AI Think — аккредитованная ИТ-компания. Она входит в реестр Минцифры России и в реестр технологических компаний Москвы.

    О проекте

    Мы разрабатываем TAQC — систему автоматического поиска пороков ткани на основе компьютерного зрения и искусственного интеллекта.

    Система анализирует поток изображений ткани с линейных камер машинного зрения, установленных прямо на производственных машинах. Она автоматически выявляет дефекты и помогает текстильным предприятиям контролировать качество продукции и снижать потери. Основной промышленный объект проекта — предприятие «Чайковский Текстиль».

    Сейчас в системе работает детектор дефектов на базе YOLO. Параллельно мы разрабатываем многоэтапное решение для обнаружения и классификации дефектов:

    • На первом этапе модель anomaly detection находит отклонения от нормального рисунка ткани (pattern deviation).
    • На втором этапе модель классификации определяет тип дефекта.

    Вам предстоит продолжить развитие этого направления: улучшать качество обнаружения дефектов, снижать количество ложных срабатываний, оптимизировать модели и доводить решения до промышленного применения.

    Чем предстоит заниматься

    • Дорабатывать, оптимизировать и выпускать в production систему обнаружения аномалий (pattern deviation) и классификации дефектов.
    • Поддерживать и улучшать текущую модель детекции на базе YOLO.
    • Исследовать, тестировать и внедрять новые подходы к anomaly detection и другим задачам компьютерного зрения.
    • Подбирать, адаптировать и комбинировать модели компьютерного зрения для решения задач контроля качества ткани.
    • Разрабатывать собственные алгоритмы и внутренние инструменты для решения нестандартных задач анализа изображений.
    • Разрабатывать и улучшать алгоритмы поиска краёв ткани на изображениях.
    • Разрабатывать алгоритмы оценки разнооттеночности ткани — неравномерности окраса и оттенка.
    • Подготавливать и анализировать датасеты, подбирать аугментации, самостоятельно размечать данные в небольшом объёме.
    • Координировать работу разметчиков: ставить задачи, составлять инструкции и контролировать качество разметки.
    • Проводить эксперименты, анализировать результаты обучения и оценивать качество моделей на реальных производственных данных.
    • Искать способы снижения ложных срабатываний и пропусков дефектов с учётом требований производства.
    • Удалённо участвовать в калибровке и настройке камер машинного зрения перед установкой новых систем.
    • Взаимодействовать с командой разработки, представителями заказчика и менторами-экспертами в области лёгкой промышленности.

    Условия работы

    • Полностью удалённая работа из любой точки мира.
    • График работы — 5/2.
    • Зарплата: 80 000 – 110 000 рублей на руки.
    • Работа в инженерной команде, которая занимается прикладными AI-решениями.

    Онбординг и развитие

    • Подробный онбординг. На старте вас ждёт полноценное погружение в проект и передача дел от текущего computer vision специалиста: архитектура системы, модели, датасеты, процессы разметки и история экспериментов.
    • Обучение отрасли. Отраслевые менторы помогут разобраться в особенностях лёгкой промышленности и типах дефектов тканей.
    • Погружение в железо. Если у вас нет опыта работы с камерами машинного зрения, мы научим. Важно быть готовым глубоко погрузиться в тему и разобраться, как всё устроено на уровне камер: оптика, освещение, параметры съёмки, калибровка.
    • Карьерный рост. После погружения у вас будет возможность самостоятельно возглавить направление computer vision. Следующий шаг - рост до руководителя отдела с наймом специалистов и построением собственной команды.

    Требования

    Общий уровень

    • Уровень: Middle.
    • От 1 года коммерческого опыта разработки или исследований в области computer vision / machine learning.

    Computer Vision и Machine Learning

    • Практический опыт решения задач компьютерного зрения: object detection, image classification, segmentation или anomaly detection.
    • Понимание методов обнаружения аномалий на изображениях: PatchCore, PaDiM, автоэнкодеры и другие подходы.
    • Понимание принципов работы архитектур нейронных сетей для задач компьютерного зрения, знакомство с различными подходами к детекции объектов: YOLO, Faster R-CNN, DETR и другими.
    • Знание математических основ машинного обучения.
    • Практический опыт обучения и дообучения моделей компьютерного зрения, умение подбирать подходящие архитектуры под конкретные задачи.
    • Понимание процесса обучения нейронных сетей, роли основных гиперпараметров и умение обоснованно подбирать их в зависимости от задачи и результатов экспериментов.
    • Знание основных метрик качества моделей компьютерного зрения, умение интерпретировать их и выбирать критерии оценки с учётом требований бизнеса, допустимого уровня ложных срабатываний и пропусков дефектов.
    • Умение формулировать и проверять гипотезы, проводить эксперименты, анализировать результаты обучения и делать обоснованные выводы для улучшения моделей.
    • Готовность самостоятельно разрабатывать алгоритмы и искать решения нестандартных задач, а не только применять готовые подходы.

    Классическая обработка изображений

    • Опыт применения классических алгоритмов обработки изображений: выделение границ и контуров, фильтрация, морфологические операции.
    • Понимание цветовых пространств: RGB, HSV, Lab.
    • Знание основных подходов к анализу цвета и текстуры изображений.

    Работа с данными

    • Опыт подготовки и анализа датасетов, понимание особенностей работы с несбалансированными данными и умение выстраивать соответствующие пайплайны обучения.
    • Умение подбирать и применять аугментации с учётом специфики данных, особенностей отдельных классов и характера дефектов.
    • Понимание процессов разметки данных и опыт работы с инструментами разметки: CVAT, Label Studio или аналогами.
    • Умение оценивать качество и репрезентативность данных, выявлять проблемы датасета, способные повлиять на результаты обучения.

    Инструменты и технологии

    • Уверенное владение Python.
    • Опыт работы с ML-фреймворками: PyTorch, Ultralytics / YOLO или аналогами.
    • Опыт работы с библиотеками обработки изображений: OpenCV, NumPy, scikit-image или аналогами.

    Современные инструменты разработки

    • Широкий кругозор в области AI-разработки.
    • Понимание современных подходов: agent-based coding, построение AI-pipeline, использование AI-инструментов в разработке.

    Коммуникация

    • Умение выстраивать работу с разработчиками, заказчиком и отраслевыми экспертами.
    • Умение понятно объяснять технические решения людям без ML-бэкграунда.

    Будет огромным плюсом

    • Опыт работы с текстилем или в лёгкой промышленности. Он не обязателен: мы готовы обучить всем особенностям отрасли и типам дефектов.
    • Опыт работы с камерами машинного зрения, в том числе линейными, их калибровкой и настройкой параметров съёмки. Если опыта нет, научим, но потребуется готовность глубоко погрузиться в тему.
    • Опыт оптимизации моделей для промышленного применения: ONNX, TensorRT, квантизация или аналогичные подходы.
    • Опыт работы с задачами контроля качества на производстве.
    • Знакомство с few-shot и zero-shot подходами к обнаружению аномалий или интерес к их изучению и практическому применению.
    • Опыт организации и контроля работы разметчиков.

    Как проходит собеседование

    Собеседование проходит в один этап и длится около часа. На одной встрече мы:

    • Познакомимся и расскажем о проекте и условиях работы.
    • Обсудим ваш опыт в computer vision и machine learning.
    • Поговорим о подходах к обучению моделей, работе с данными, оценке качества и решении практических задач обработки изображений.

    Как откликнуться

    Отправьте отклик с кратким описанием вашего опыта в machine learning и computer vision. Будет полезно указать:

    • С какими задачами компьютерного зрения вы работали.
    • Какие модели и фреймворки использовали.
    • Опыт обучения, дообучения и оптимизации моделей.
    • Опыт работы с anomaly detection.
    • Опыт подготовки датасетов, работы с несбалансированными данными, аугментациями и разметкой.
    • Опыт работы с классическими алгоритмами обработки изображений.
    • Опыт работы с камерами машинного зрения, если он есть.
    • Примеры собственных алгоритмов или инструментов, которые вы разработали.
    • Участие в прикладных проектах или исследованиях.

    Также можно приложить GitHub, портфолио или примеры проектов.

    hh.ru
    СБЕР

    Middle/Senior AI Engineer (LLM&AI Agents)

    СБЕР
    Зарплата не указанаРоссияМоскваОфис

    AI-команда блока развития клиентского опыта B2C приглашает опытного AI-инженера для участия в создании AI-агентов и LLM-решений, которые улучшают взаимодействие с клиентами - как внешними, так и внутренними пользователями Сбера.

    Мы строим передовые AI-инструменты на основе LLM, автоматизируем процессы и делаем сервисы персонализированными. Вы станете ключевым участником команды, которая внедряет AI-решения в реальные бизнес-процессы.

    Наше управление состоит из 45+ специалистов: Data Scientists, AI и ML-инженеров, MLOps и Project-менеджеров. Мы активно развиваем решения на базе LLM, трансформируя клиентский опыт.

    Обязанности

    • разрабатывать и внедрять LLM-пайплайны и AI-агентов: от генерации идеи и сборки MVP до успешного запуска в продакшн
    • дообучать LLM (на базе GigaChat) под конкретные бизнес-задачи и предметные области (Fine-tuning, LoRA)
    • оборачивать разработанные модели и бизнес-логику в надежные микросервисы на Python
    • переводить бизнес-потребности на язык машинного обучения и предлагать оптимальные архитектурные решения.

    Требования

    • опыт: от 3 лет в Data Science или NLP с уверенным практическим применением LLM
    • LLM & Agents: опыт разработки LLM-пайплайнов, RAG-систем или AI-агентов. Знание основных фреймворков: LangChain, LangGraph или аналогов
    • NLP & ML: глубокое понимание NLP - от классических подходов (TF-IDF) до современных трансформеров и LLM; знание основных принципов и алгоритмов классического ML
    • Python Backend: понимание принципов проектирования микросервисной архитектуры (REST API); опыт написания асинхронных и многопоточных приложений (aiohttp, asyncio, multiprocessing)
    • Инженерная культура: умение писать чистый, поддерживаемый и тестируемый код на Python
    • Владение Git, SQL, Bash, Docker.

    будет плюсом:

    • опыт интеграции AI-агентов и ML-моделей в высоконагруженные сервисы
    • интерес к SOTA-подходам в агентной разработке
    • практическое применение фреймворка DeepAgents в PET проектах
    • опыт работы с Kubernetes.

    Условия

    • комфортный современный офис рядом с м. Кутузовская
    • гибридный формат работы
    • ежегодный пересмотр зарплаты, квартальная и годовая премия
    • корпоративный спортзал и зоны отдыха более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
    • программа адаптации и помощь руководителя на старте
    • расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
    • гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
    • подписка Прайм с возможностью совместного использования на трёх близких
    • вознаграждение за рекомендацию друзей в команду Сбера.
    hh.ru
    Зарплата не указанаРоссияМоскваОфис
    Обязанности:
    • Управлять стратегическим развитием модельных решений и их применением в кредитовании МСБ
    • Формировать техническое задание на разработку моделей для кредитного процесса МСБ, координировать процесс разработки со стороны заказчика (риски МСБ), осуществлять приемку моделей
    • Поддерживать процедуру первичной и ежегодной валидации со стороны заказчика с целью получения репрезентативной оценки моделей с учетом особенностей бизнес-процесса применения данных моделей, устранять выявленные замечания и риски
    • Ставить техническое задание на применение моделей в Системе принятия решений (СПР), в т.ч. устанавливать уровни отсечения по моделям и калибровочные коэффициенты
    • Формировать задание на мониторинг моделей с учетом специфики бизнес-процесса применения, осуществлять приемку дашбордов, контролировать качество моделей и анализировать отклонения, информировать руководство и портфельную команду о всех существенных рисках/изменениях, проактивно реагировать на сигналы мониторинга
    • Формировать стандарт оценки финансового эффекта от применения моделей в кредитовании МСБ, согласовывать его с заинтересованными подразделениями, проводить в соответствии с ним оценку новых и действующих моделей
    • Взаимодействовать с риск‑менеджерами, IT, финансовым департаментом и другими подразделениями для согласования требований и оценки модельных рисков
    • Поддерживать портфель моделей, внедрять лучшие практики ML/AI и обеспечивать соответствие регуляторным требованиям

    Требования:
    • Опыт работы по направлению 3-5 лет ( из которых на руководящей должности 1-3 года)
    • Уверенное владение теорией моделирования риск-моделей / поведенческих моделей продвинутой аналитики, ценообразования кредитного бизнеса (фондирование, резервирование, lifetime доходность, прибыль, EROA, EROE, NCL)
    • Опыт внедрения решений на базе ML, участие в построения клиентских поведенческих моделей и внедрения в бизнес-процессы
    • Уверенное владение Excel с макросами, Python, Sql
    • Знание регуляторных требований ЦБ РФ к моделям кредитного риска
    • Понимание стандартов МСФО 9 в части оценки обесценения финансовых активов
    • Знание принципов управления модельными рисками (Model Risk Management)

    Условия:
    • Стабильный и прозрачный доход: размер заработной платы обсуждается по итогам собеседования
    • Работа в гибридном графике
    • Карьерный рост: ты будешь понимать, что нужно сделать для перехода на другой уровень
    • Чувство локтя: у нас дружелюбная атмосфера и команда лучших профессионалов, которые готовы делиться с тобой экспертизой
    • Забота о твоем здоровье: программа ДМС, куда входит стоматология и обслуживание в лучших клиниках города, скидки на абонементы в фитнес-клубы, неформальные спортивные сообщества
    • Возможности для разнообразного досуга: скидки на услуги туристических агентств, продукты питания, в рестораны и бары, в магазины и салоны красоты
    • Предложения от банка только для сотрудников: льготные условия обслуживания карты Cash Back и другие предложения

    HireSeeker собирает вакансии со всех площадок и присылает только релевантные. Бесплатно.