Leo Platform — SaaS для AI-агентов
Микросервисная платформа для создания, оркестрации и деплоя RAG-ботов. Каждый агент — изолированный Docker-контейнер с LangGraph-логикой и доступом к векторной базе знаний.
Ключевые технологии
RAG PipelineMulti-LLMOCRAI OrchestrationSemantic + Vector SearchState MachineMicroservices
Стек технологий
Next.jsTypeScriptDockerPostgreSQLChromaDBLiteLLMLangGraphLangChainLangSmithOpenAIAnthropicExpressGrammYDockerodePrismaNode.js
Функционал
- Конструктор агентов: персона, тональность, промпты с версионностью
- RAG: загрузка файлов (PDF, Word, Excel, изображения с OCR), чанкинг, векторизация в ChromaDB
- LangGraph State Machine: сложные сценарии диалогов с памятью
- Оркестрация через Dockerode: динамический запуск/остановка контейнеров агентов
- LiteLLM-шлюз: смена моделей (GPT-4, Claude, Llama) без изменения кода
- Аналитика: токены, время ответа, история диалогов, тестовые сценарии
- Биллинг: подписки, лимиты по тарифам, rate limiter
Результат
Готовая инфраструктура для запуска AI-ботов любой сложности