The "Brain" of our AI ecosystem. Этот микросервис отвечает за "мышление", извлечение данных из базы проектов и генерацию человекоподобных ответов.
В отличие от обычных чат-ботов, этот сервис не галлюцинирует. Он использует архитектуру RAG:
- Retrieval: Извлекает актуальные данные о проектах из Sanity CMS.
- Augmentation: Обогащает системный промпт полученными знаниями.
- Generation: Генерирует точный ответ через Groq LPU (Llama 3.3 70B).
- Extreme Speed: Ответы генерируются практически мгновенно благодаря инфраструктуре Groq.
- Dynamic Knowledge: ИИ всегда знает о новых проектах, как только они добавляются в Sanity.
- Structured IO: Полная валидация данных через Pydantic-схемы.
- Async Engine: Полностью асинхронная работа на базе
FastAPIиhttpx.
- Backend: FastAPI (Python)
- AI Provider: Groq Cloud API
- LLM: Llama-3.3-70b-versatile
- Headless CMS: Sanity.io
- Dependency Manager: Poetry