CUDA / AI Engineer
Работодатель · MWDN
Разработчик программного обеспеченияСистемный аналитикГибкийБудапешт
MWDN — глобальная IT-аутстаффинговая компания с 23-летним опытом. Мы ищем высококлассного инженера или исследователя с глубокой экспертизой в GPU-вычислениях, CUDA и оптимизации инференса LLM для работы над сложными задачами на стыке систем искусственного интеллекта и высокопроизводительных вычислений.
Задачи
- Исследование и оптимизация производительности инференса LLM на современных GPU.
- Работа с фреймворками инференса и сервиса, такими как vLLM, SGLang, TensorRT-LLM или аналогичными системами.
- Анализ выполнения GPU, паттернов доступа к памяти, производительности кернелов и узких мест инференса.
- Разработка, оптимизация, отладка или реверс-инжиниринг CUDA-кернелов и низкоуровневых операций GPU.
- Исследование техник оптимизации для матричного умножения, механизмов внимания и слоев нейросетей.
- Бенчмаркинг производительности и определение возможностей для улучшения задержки, пропускной способности и использования GPU.
- Работа над технически сложными задачами, требующими сильного аналитического мышления и практических экспериментов.