Услуга
AI-платформы и оркестрация
Надёжные мультимодельные AI-пайплайны, которые не падают вслед за провайдером.
Строю бэкенд за AI-продуктами: движки оркестрации, распределяющие работу между множеством моделей, переживающие сбои провайдеров и никогда не теряющие и не дублирующие задачу. Спроектировал и возглавил AI-платформу автоматизации контента с нуля - вместе с её движком воркфлоу.
Что я могу построить
Движки воркфлоу и оркестрации
Выполнение на основе DAG с параллельными шагами, персистентным состоянием и резюмом по чекпойнтам - задачи продолжаются с последнего успешного шага, а не с нуля.
Роутинг моделей и фейловер
Маршрутизация каждого шага к нужной модели по тексту, изображениям, видео и аудио; автоматический фейловер и фолбэки при деградации или rate-limit провайдера.
Идемпотентная надёжная доставка
Локи задач и идемпотентная обработка - ретраи и повторные доставки никогда не запускают задачу дважды и не дублируют результат.
Наблюдаемость стоимости и качества
Задержки по этапам, метрики качества инференса и алертинг - чтобы AI-пайплайн был быстрым, дешёвым и отлаживаемым.
Проверено в продакшене
Я построил движок воркфлоу (сначала Deno, затем NestJS), оркестрирующий 20 моделей для текста, изображений, видео и аудио и публикующий ~1 200 материалов в день в 8 соцканалов - с автофейловером и надёжным резюмом.
Смотреть кейс платформы →Стек
- Go
- NestJS
- BullMQ
- RabbitMQ
- Redis
- PostgreSQL
- LLM API
- Kubernetes
Начать проект
Открыт к проектной и консультационной работе - и к фулл-тайму. Расскажите, что вы строите.