Skip to content

almassuleimenov/bot-brain

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

28 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

🧠 Architecture AI Bot: Brain (Python)

Python Version FastAPI AI Model Database

The "Brain" of our AI ecosystem. Этот микросервис отвечает за "мышление", извлечение данных из базы проектов и генерацию человекоподобных ответов.


🛠 Технология RAG (Retrieval-Augmented Generation)

В отличие от обычных чат-ботов, этот сервис не галлюцинирует. Он использует архитектуру RAG:

  1. Retrieval: Извлекает актуальные данные о проектах из Sanity CMS.
  2. Augmentation: Обогащает системный промпт полученными знаниями.
  3. Generation: Генерирует точный ответ через Groq LPU (Llama 3.3 70B).

🔥 Ключевые особенности

  • Extreme Speed: Ответы генерируются практически мгновенно благодаря инфраструктуре Groq.
  • Dynamic Knowledge: ИИ всегда знает о новых проектах, как только они добавляются в Sanity.
  • Structured IO: Полная валидация данных через Pydantic-схемы.
  • Async Engine: Полностью асинхронная работа на базе FastAPI и httpx.

🏗 Технологический стек

  • Backend: FastAPI (Python)
  • AI Provider: Groq Cloud API
  • LLM: Llama-3.3-70b-versatile
  • Headless CMS: Sanity.io
  • Dependency Manager: Poetry

About

No description, website, or topics provided.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors