Senior Software Engineer
Работодатель · Superlinked
Разработчик программного обеспеченияРазработчик приложенийПолнаяБудапешт
Управление парком агентов кодирования для создания инфраструктуры инференса на Rust и Python для поддержки современных ИИ-приложений. Вы будете работать с высокопроизводительными сервисами для запуска ИИ-моделей, учета токенов, обработки изображений, аудио и видео, которые используются реальными командами в нашем open-source инференс-кластере K8s и serverless API-продукте. Эта роль предполагает практическую работу от начала до конца: от проектирования чистых API до обеспечения их высокой производительности, наблюдаемости и удобства в эксплуатации.
Задачи
- Управление парком агентов кодирования для создания инфраструктуры инференса на Rust и Python для поддержки современных ИИ-приложений.
- Работа с высокопроизводительными сервисами для запуска ИИ-моделей, учета токенов, обработки изображений, аудио и видео.
- Проектирование чистых API и обеспечение их высокой производительности, наблюдаемости и удобства в эксплуатации.
Требования
- Python: Python 3.12, FastAPI, Pydantic, asyncio, uv, pytest, ruff, mypy
- Ecosystem: Kafka, VDBs (Qdrant, Redis, TopK), OpenTelemetry (Loki, Grafana, Tempo, Mimir, Prometheus), Infinity, Locust
- Infrastructure: GCP (CloudRun, GKE), Kubernetes, Docker, Terraform, Github Actions, mise, Monorepo
- Data: Ray, Polars, Pandas
- Rust: Практический опыт отладки, устранения неполадок и оптимизации кода на Rust.
- AWS (EKS): Опыт работы с AWS, в особенности с Elastic Kubernetes Service (EKS).
- GCP: Опыт работы с Google Cloud Platform
- Высокое чувство ответственности: способность довести задачу до конца при минимальном надзоре.
- Четкая и лаконичная коммуникация в распределенной международной команде.
- Надежное выполнение задач и способность укладываться в согласованные сроки.