CUDA / AI Engineer
Роботодавець · MWDN
Розробник програмного забезпеченняСистемний аналітикГнучкийБудапешт
MWDN — це глобальна ІТ-аутстафінг компанія з 23-річним досвідом. Ми шукаємо високоефективного інженера або дослідника з глибокою експертизою в GPU-обчисленнях, CUDA та оптимізації інференсу LLM для роботи над складними завданнями на стику систем штучного інтелекту та високопродуктивних обчислень.
Завдання
- Дослідження та оптимізація продуктивності інференсу LLM на сучасних GPU.
- Робота з фреймворками інференсу та сервісів, такими як vLLM, SGLang, TensorRT-LLM або подібними системами.
- Аналіз виконання GPU, шаблонів доступу до пам'яті, продуктивності кернелів та вузьких місць інференсу.
- Розробка, оптимізація, відладка або реверс-інжиніринг CUDA-кернелів та низькорівневих операцій GPU.
- Дослідження технік оптимізації для множення матриць, механізмів уваги та шарів нейромереж.
- Бенчмаркінг продуктивності та визначення можливостей для покращення затримки, пропускної здатності та використання GPU.
- Робота над технічно складними завданнями, що потребують сильного аналітичного мислення та практичних експериментів.