LLM Platform Engineer (ML Engineer)

18 Декабря

Партнерские Вакансии

Город:

Самара

Занятость:

Временная работа

Компания "Magenta Technology"

Открыта вакансия LLM Platform Engineer (ML Engineer) на проект финтех.

Задачи:

  • Развертывание и оптимизация LLM моделей на multi-GPU установках с tensor/pipeline/data parallelism
  • Организация MLOps-процессов и системная оценка качества моделей
  • Обеспечение production latency <2s>95% для инфраструктуры inference
  • Профилирование и оптимизация использования VRAM (CUDA OOM prevention)
  • Мониторинг GPU-производительности

Мы ожидаем от тебя:

  • Python (asyncio, multiprocessing, typing) Advanced уровня
  • Bash/Shell scripting Advanced уровня для автоматизации развертывания
  • Практический опыт с vLLM, TensorRT-LLM, TGI для serving моделей
  • Опыт работы с квантизацией (AWQ, GPTQ, GGUF) для снижения требований к VRAM
  • Знание оптимизаций Flash Attention и Paged Attention
  • Навыки работы с PyTorch, JAX, ONNX для универсального развертывания
  • Опыт отладки GPU memory и понимание CUDA (Intermediate C++/CUDA)

Будет плюсом:

  • Опыт развертывания моделей на multi-GPU
  • Практика профилирования VRAM usage в production-средах
  • Опыт работы с моделями 480B+ параметров на кластерах GPU
  • Знание специфических GPU scheduling инструментов (Volcano, Kueue)
Похожие вакансии

11 Декабря

Devops Engineer( Неофлекс )

Самара

Компания "Неофлекс" ОДИН ИЗ ЛУЧШИХ РАБОТОДАТЕЛЕЙ РОССИИ Мы – Neoflex. Аккредитованная IT компания. За 20 лет работы мы создали 12+ готовых...

Отправить резюме подробнее

07 Декабря

Data Engineer

Самара

Компания "СимбирСофт,ООО" В SimbirSoft более 1500 разработчиков ежедневно решают интересные задачи, которые делают комфортнее жизни миллионов...

Отправить резюме подробнее

10 Декабря

DevOps Engineer( Rakasta )

Самара

Компания "Rakasta" Rakasta — это команда профессионалов, которая делает бизнес безопасным. Нас отличает сильная команда, атмосфера роста и...

Отправить резюме подробнее

18 Декабря

DevOps Engineer( Magenta Technology )

Самара

до 220 000 руб.

Компания "Magenta Technology" Ищем DevOps инженера Обязанности: - документировать и наполнять базы знаний (Jira/Confluence) - решать...

Отправить резюме подробнее

18 Декабря

AI Code Generation Engineer (Senior ML Engineer)

Самара

Компания "Magenta Technology" Открыта вакансия AI Code Generation Engineer (Senior ML Engineer) на проект финтех Задачи: Разработка...

Отправить резюме подробнее

Вакансия размещена в отрасли

Информационные технологии / IT / Интернет: