CUDA / AI Engineer
Munkáltató · MWDN
SzoftverfejlesztőRendszerelemzőRugalmasBudapest
A MWDN egy globális IT outstaffing cég, 23 éves tapasztalattal. Olyan magasan képzett mérnököt vagy kutatót keresünk, aki mélyreható ismeretekkel rendelkezik a GPU-számítástechnika, a CUDA és az LLM-inferencia optimalizálása terén, és kihívást jelentő feladatokon dolgozna az MI-rendszerek és a nagy teljesítményű számítástechnika metszéspontjában.
Feladatok
- Az LLM-inferencia teljesítményének vizsgálata és optimalizálása modern GPU-kon.
- Munkavégzés olyan inferencia- és kiszolgálókeretrendszerekkel, mint a vLLM, a SGLang, a TensorRT-LLM vagy hasonló rendszerek.
- A GPU-végrehajtás, a memóriaelérési minták, a kernel-teljesítmény és az inferencia-szűkkeresztmetszetek elemzése.
- CUDA-kernelek és alacsony szintű GPU-műveletek fejlesztése, optimalizálása, hibakeresése vagy visszafejtése.
- A mátrixszorzás, a figyelemfelkeltő mechanizmusok és a neurális hálózati rétegek optimalizálási technikáinak feltárása.
- Teljesítménymérések végzése, valamint a késleltetés, az áteresztőképesség és a GPU-kihasználtság javítási lehetőségeinek azonosítása.
- Munkavégzés olyan technikailag kihívást jelentő feladatokon, amelyek erős analitikus gondolkodást és gyakorlati kísérletezést igényelnek.