Infrastructure & AI Engineer (Python)

About Inworld

Inworld is a research lab and inference provider focused on realtime AI for consumer-facing applications. We build first-party speech models, serve LLMs, and run the inference behind modular APIs designed for high-volume, realtime workloads.

Hundreds of millions of users interact with Inworld powered apps every day and we serve over 10 trillion LLM tokens per month. Our models and infrastructure support consumer applications across companions, healthcare, fitness, education, media, and more. Our work spans model research, realtime inference, large-scale serving infrastructure, and the APIs developers use to bring these capabilities into production.

We’ve raised more than $125M from Lightspeed Venture Partners, Section 32, Kleiner Perkins, Microsoft’s M12 venture fund, Founders Fund, Meta, Stanford, and others. Our technology has powered experiences from companies including NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella, and Bible Chat. Inworld has also been recognized by CB Insights as one of the 100 most promising AI companies globally and named one of LinkedIn’s Top 10 Startups in the USA.

Who We're Looking For

A year ago, reliably working agentic systems and sub-second multimodal inference at scale barely existed. Nobody has a decade of experience here. So we're not screening for a resume template — we're looking for strong people from varied backgrounds who learn fast, thrive in ambiguity, and can show us what they've built, broken, and understood.

Experience We Find Useful

You don't need all of this. But you need enough to make a case.

• Inference Optimization. Deep understanding of modern serving frameworks and techniques like vLLM or TRT-LLM.

• Model Acceleration. Hands-on experience with quantization, distillation, caching strategies , continuous batching, paged attention, and speculative decoding.

• High-Performance Systems. Proficiency in C++, CUDA, Rust, or highly optimized Python. You know how to profile code and squeeze every ounce of performance out of NVIDIA GPUs.

• Distributed Systems & Scaling. Experience with Kubernetes, Ray, custom load balancing, multi-GPU/multi-node inference, and reliably handling thousands of concurrent connections.

• Public work. Non-trivial systems programming projects, open-source contributions to major inference engines, or deep-dive technical write-ups.

• Full-cycle ownership. You can take a model from the research team, containerize it, optimize its serving, and ensure it runs reliably in production.

• Background. PhD in CS, Physics, Math, or equivalent practical experience building backend or ML systems.

Who Thrives Here

• You don’t need a roadmap to start walking; you’re comfortable picking a direction and building the map as you go.

• You believe engineering isn't finished until it’s shipped and stable. You have a bias for impact over purely theoretical optimizations.

• You don't just ship code; you obsess over the why. You’re the first to question an architecture if you think there’s a better way to solve the core latency or throughput problem.

• You aren't satisfied with "the PM said so." You thrive on deep context and want to understand the fundamental logic behind every decision we make.

What Working Here Is Like

We hand you unclear problems and expect you to make them clear. We value engineers who say "I don't know yet" and then design the benchmark or prototype that finds out. We treat performance, latency, and reliability as first-class product features, not a box to check before launch. Impact comes before everything else, though we support sharing work and open-source contributions that move the field forward. Your work should be visible. Flat structure, fast iterations, minimal process theater.

The base salary range for this full-time position is £140,000 – £200,000. In addition to base pay, total compensation includes equity and benefits. Within the range, individual pay is determined by work location, level, and additional factors, including competencies, experience, and business needs. The base pay range is subject to change and may be modified in the future.

Candidates must already have the legal right to work in the United Kingdom, as visa sponsorship is not available for this role. For candidates interested in relocating to the San Francisco Bay Area in the future, full U.S. visa and relocation support may be available, subject to business needs and applicable legal and work authorization requirements.

Inworld Jobs Privacy

DSouls — AI SaaS-продукт операционная платформа для бизнеса и команд,
работающих с контентом и социальными сетями.

Мы развиваем AI-продукт, который объединяет более 20 провайдеров и 70+ нейросетей для работы с текстом, изображениями, видео и другими форматами контента.

Ищем Product Engineer с опытом разработки, который активно использует AI-ассистентов и умеет самостоятельно проходить путь от идеи до работающей функции. Нам важен человек, который сочетает продуктовое мышление, понимание архитектуры и практические навыки разработки.

Что предстоит делать:
— Развивать продукт целиком: продумывать пользовательские сценарии, интерфейсы, user flow, онбординг и приоритеты развития;
— Самостоятельно разрабатывать и запускать новые функции, работая с существующим backend, базой данных, API и пользовательским интерфейсом;
— Развивать систему оркестрации AI-моделей: интегрировать провайдеров, выбирать модели под конкретные задачи и продумывать сценарии переключения между ними;
— Исследовать и сравнивать модели для генерации текста, изображений и видео, проводить тесты и бенчмарки, оценивать качество, скорость и стоимость результатов;
— Превращать возможности нейросетей в понятные пользовательские сценарии и полезные продуктовые функции;
— Использовать Claude Code, Codex и другие AI-ассистенты для ускорения разработки, самостоятельно проверять сгенерированный код и отвечать за качество реализации;
— Принимать архитектурные решения, понимать взаимодействие frontend, backend, API и базы данных, учитывать масштабирование и надёжность системы;
— Проверять изменения на реальных данных, находить ошибки, анализировать результаты запуска и быстро улучшать продукт.

Что важно:
— Продуктовое мышление и практический опыт создания продуктов или собственных проектов. Умеешь самостоятельно находить задачи, принимать решения и объяснять, почему выбрал именно такой подход;
— Практический опыт разработки веб-приложений и способность самостоятельно реализовать функциональность от backend до пользовательского интерфейса;
— Хорошее понимание архитектуры веб-сервисов: взаимодействия компонентов системы, работы API, баз данных, асинхронных процессов и внешних интеграций. Способность оценивать архитектурные решения и понимать последствия изменений;
— Знание Python и FastAPI, понимание работы с PostgreSQL, проектирования схем данных и взаимодействия с базой данных;
— Опыт активной разработки с AI-ассистентами, например Claude Code или Codex. Умеешь декомпозировать задачи, управлять работой агентов, проверять их результат и самостоятельно находить ошибки;
— Практический опыт работы с LLM и генеративными моделями: интеграция API, сравнение моделей и понимание особенностей их применения;
— Понимание UX/UI и умение продумывать пользовательские сценарии, в том числе сложные асинхронные операции, загрузку и обработку результатов, ошибки и другие состояния интерфейса;
— Готовность самостоятельно исследовать новые технологии, быстро проверять гипотезы и доводить решения до работающего продукта.

Будет плюсом:
— Опыт разработки и развития AI-продуктов в production;
— Понимание промпт-инжиниринга, structured output, автоматической оценки качества генерации и подходов к сравнению моделей;
— Опыт работы с RAG, векторным поиском или долговременной памятью AI-агентов;
— Опыт работы с API генерации изображений, видео и голоса;
— Понимание вопросов безопасности AI-систем, контроля стоимости вызовов моделей и обработки ошибок внешних провайдеров;
— Опыт запуска продуктов с подписками и платежами.

Условия:
— Full-time/ part-time;
— Полностью удалённая работа;
— Развитие продукта на международных рынках;
— Небольшая команда и прямое взаимодействие с founders

• проектировать сквозную архитектуру AI-решений: AI-агентов и LLM-сервисов вместе с RAG, memory, tool calling и orchestration;
• встраивать AI в существующий ландшафт trading floor с учётом текущих систем, стандартов и компонент платформы;
• совместно с Data Scientist и Research Quant выявлять, декомпозировать и документировать архитектурные и интеграционные требования; транслировать бизнес-требования в техническое решение;
• выбирать модели (проприетарные — например GigaChat, и open-source LLM), инфраструктуру и стек под конкретные ограничения и задачи; контролировать latency, стоимость inference и стабильность системы;
• совместно с корпоративными архитекторами (EA), экспертами кибербезопасности и командой сопровождения выбирать технические компоненты и проектировать интеграции;
• самостоятельно собирать PoC и прототипы агентов и интеграций, разрабатывать reference-код и шаблоны для стандартизации и масштабирования.

• оконченное высшее образование;
• аналогичный опыт от 2-х лет;
• промышленный Python: писал(а) и выводил(а) в прод сервисы на Python, а не только ноутбуки/скрипты;
• LLM на практике: лично собирал(а) хотя бы один сервис или прототип на основе LLM через API (RAG, агент или tool calling);
• интеграции: делал(а) интеграции сервисов через REST и/или очередь сообщений (Kafka или RabbitMQ — хотя бы одно);
• контейнеры: использовал(а) Docker; понимаешь, зачем нужен Kubernetes;
• базы данных: уверенно работаешь с SQL и реляционными БД (любая из РСУБД).

• оформление по ТК РФ с первого дня и все социальные гарантии;
• гибридный формат работы;
• ДМС после испытательного срока;
• страхование жизни сотрудника;
• для работы предоставляем ноутбук, наушники, мышь, при необходимости – и другую технику;
• доступ к библиотеке IBS, к открытым бесплатным курсам от "Среды развития", к вебинарам "Биржи знаний";
• бонусы и бенефиты для наших сотрудников: подарки для детей ко Дню знаний, на Новый Год, скидки у корпоративных партнёров;
• подарки для сотрудников, вступающих в брак;
• материальная помощь на рождение и усыновление детей;
• награда за лояльность к компании и премия за выслугу лет.