Sidekick – это международная IT-компания, которая разрабатывает современное программное обеспечение в сфере веб и мобильных приложений.
Почему Sidekick?
- Мы работаем с международными клиентами из Великобритании, Германии и США.
- Используем современный стек технологий, а также развиваем экспертизу в таких современных и востребованных доменах как FinTech, DeFi, AI (ML/DL);
- Профессиональный рост: менторство, knowledge sharing, регулярные performance review.
Обязанности: AI / LLM-инфраструктура
-
Разворачивать, настраивать и поддерживать self-hosted LLM.
-
Обслуживать GPU-серверы и оптимизировать расход GPU и VRAM.
-
Запускать inference-сервисы на vLLM, llama.cpp и других движках, следить за их работой.
-
Настраивать и чинить NVIDIA Drivers, CUDA, NCCL и Docker GPU.
-
Собирать Multi-GPU-конфигурации.
-
Внедрять AI-агентов и agentic workflows.
-
Подключать LLM и агентов к внутренним сервисам компании.
-
Помогать автоматизировать процессы с помощью AI.
Инфраструктура
-
Администрировать Linux, Proxmox VE, Docker и LXC.
-
Поддерживать серверный и GPU-парк.
-
Развивать мониторинг на Zabbix, Grafana и Prometheus.
-
Разбирать и закрывать инфраструктурные и сетевые инциденты.
-
Управлять VPN, Firewall, VLAN, маршрутизацией и доступами.
-
Выстраивать резервное копирование и Disaster Recovery.
Автоматизация
-
Автоматизировать развертывание и настройку серверов и сервисов.
-
Писать сценарии на Ansible, Terraform и других инструментах.
-
Сокращать ручные операции, чтобы инфраструктура работала стабильнее.
Помощь команде
-
Решать инфраструктурные задачи вместе с разработчиками, DevOps, QAи NОC.
-
Настраивать окружения и CI/CD.
Требования: -
От 3 лет в системном или сетевом администрировании.
-
Уверенное администрирование Linux.
-
Знание сетей: TCP/IP, Routing, Switching, VLAN, NAT, VPN, Firewall, DNS, Proxy.
-
Опыт работы с Proxmox VE, Docker и LXC.
-
Опыт настройки мониторинга на Zabbix, Grafana или Prometheus.
-
Опыт обслуживание серверов и GPU-инфраструктуры.
-
Опыт установки и ремонта NVIDIA drivers, CUDA toolkit, nvidia-container-toolkit, диагностики через nvidia-smi.
-
Понимание основ информационной безопасности и управления доступами.
-
Понимание принципов LLM inference и self-hosted LLM.
-
Опыт запуска нагрузки на GPU, подсчета VRAM, сборки Docker-контейнеров с GPU.
-
Знание vLLM или llama.cpp и OpenAI-compatible API.
-
Опыт деплоя open-weight моделей: Qwen, GLM, Llama, Mistral и другие.
-
Понимание CUDA и NCCL.
-
Опыт использования AI coding-агентов: OpenHands, Continue или аналогов.
-
Опыт построения agentic workflows и связывания LLM с внутренними сервисами.
-
Ansible, Bash, Python, CI/CD, Terraform, Git и Git Workflow.
-
Опыт автоматизации развертывания и настройки серверов.
-
Опыт обслуживания bare-metal серверы: IPMI / BMC, прошивки, аппаратная диагностика.
-
Умение описывать инфраструктуру в Markdown или Wiki.
Будет плюсом:
-
Опыт с Multi-GPU.
-
Знакомство с Hermes и OpenCode.
-
Опыт с Vast.ai: развертывание GPU-инстансов, настройка Docker-окружения и запуск AI workloads.
-
Bittensor: опыт запуска Miner и Validator, и работы с Subnets.
-
Опыт автоматизации развертывания GPU-инфраструктуры.
Мы предлагаем:
- Официальное оформление по ТК РБ;
- 5 sick-days в год;
- Частичная/полная оплата курсов по повышению квалификации;
- Возмещение затрат на спорт.
Добро пожаловать в команду!
*Вакансия является планируемой к созданию и замещению (перспективной).