Руководитель разработки LLM

Обязанности:
· Спроектировать и построить центральную LLM-модель компании (fine-tuning, адаптация под бизнес-задачи, оптимизация).

· Выбрать технологический стек и open-source решения (LangChain, HuggingFace, vLLM, Ray Serve, MLflow и др.).

· Организовать инфраструктуру для обучения, деплоя и масштабирования LLM.

· Создать внутреннюю платформу для работы с моделью:

· управление модельным зоопарком (основная корпоративная LLM + вспомогательные модели),

· логирование всех запросов/ответов,

· система мониторинга и аналитики,

· биллинг и учёт потребления ресурсов.

· Обеспечить безопасность, контроль доступа и соответствие комплаенсу.

· Руководить разработкой и эксплуатацией: управлять командой, ставить задачи, контролировать качество решений.

· Взаимодействовать с бизнесом — формулировать требования и превращать их в архитектурные решения.

Требования к опыту:
Требования

· Опыт работы в роли AI Architect / ML Platform Engineer / Technical Lead от 3–5 лет.

· Практический опыт в обучении и кастомизации LLM (fine-tuning, LoRA, RAG, quantization).

· Знание экосистемы LLM и GenAI (HuggingFace, LangChain, OpenAI API, LlamaIndex и др.).

· Опыт проектирования и эксплуатации AI/ML-платформ в продакшне.

· Владение MLOps/DevOps-практиками (Docker, Kubernetes, CI/CD).

· Опыт работы с системами логирования и мониторинга (Prometheus, Grafana, MLflow).

· Уверенное знание Python и современных бэкенд-фреймворков (FastAPI, gRPC).

· Опыт управления командой инженеров, постановки задач и code review.



Будет плюсом

· Опыт построения и оптимизации корпоративных или доменных LLM.

· Работа с GPU-кластерами (on-prem и облачные: AWS/GCP/Azure).

· Опыт внедрения внутренних биллинговых систем для IT/ML-сервисов.

Место работы:
У работодателя