RasaGPT
💬 RasaGPT is the first headless LLM chatbot platform built on top of Rasa and Langchain. Built w/ Rasa, FastAPI, Langchain, LlamaIndex, SQLModel, pgvector, ngrok, telegram
2.5k
Stars
+8
Stars/month
0
Releases (6m)
Star Growth
+1 (0.0%)
Overview
RasaGPT 是首个基于 Rasa 和 Langchain 构建的 headless LLM 聊天机器人平台，将传统的 Rasa 对话管理框架与现代大语言模型能力相结合。该平台提供开箱即用的解决方案，集成了 FastAPI、LlamaIndex、SQLModel、pgvector 等现代技术栈，支持通过 Telegram 等多个渠道部署聊天机器人。RasaGPT 解决了将 LLM 集成到 Rasa 框架中的技术难题，包括库冲突处理、多租户支持、文档索引和检索等核心功能。平台采用 Docker 化部署，通过 ngrok 提供反向代理支持，并使用 pgvector 实现自定义向量存储方案而非依赖 Langchain 的固化实现。作为参考实现和样板代码，RasaGPT 为开发者提供了完整的 LLM 驱动对话系统架构，特别适合需要结合传统对话管理和现代生成式 AI 能力的企业级应用场景。
Deep Analysis
Key Differentiator
First headless LLM chatbot platform combining Rasa conversational AI framework with LangChain/LlamaIndex for RAG-powered bots
⚡ Capabilities
- • chatbot-framework
- • llm-integration
- • document-indexing
- • retrieval-augmented-generation
- • multi-tenancy
- • telegram-bot
🔗 Integrations
rasalangchainllama-indexpgvectortelegramfastapingrok
✓ Best For
- ✓ prototyping-llm-chatbots-on-rasa
- ✓ learning-rasa-llm-integration
- ✓ building-rag-chatbots
✗ Not Ideal For
- ✗ production-chatbots
- ✗ security-sensitive-applications
- ✗ non-rasa-frameworks
Languages
python
Deployment
docker-composeself-hosted
⚠ Known Limitations
- ⚠ not-production-ready
- ⚠ prompt-injection-vulnerable
- ⚠ macos-docker-workarounds
- ⚠ complex-setup
Pros
- + 开箱即用的完整解决方案，解决了 Rasa 与 LLM 集成的所有技术痛点，包括库冲突、元数据传递等问题
- + 提供完整的技术栈集成，包括 FastAPI 后端、文档上传训练管道、Docker 支持和多平台部署能力
- + 实现了自定义 pgvector 集成和多租户架构，比使用 Langchain 原生方案更加灵活可控
Cons
- - 作者明确表示这不是生产级代码，存在 prompt injection 和多种安全漏洞风险
- - 作为概念验证项目，缺乏企业级的安全性、稳定性和性能优化
- - 学习成本较高，需要同时掌握 Rasa、Langchain 和 FastAPI 等多个框架
Use Cases
- • 企业内部知识库问答系统，需要结合传统规则对话和 LLM 生成能力的客服场景
- • 多渠道聊天机器人部署，特别是需要同时支持 Telegram、Slack 等平台的应用
- • 需要文档索引和检索功能的智能助手，如技术文档查询、产品说明书问答等场景
Getting Started
安装依赖：克隆项目后运行 Docker Compose 启动 PostgreSQL 和 Redis 服务；配置环境：设置 API keys、数据库连接和 Telegram Bot Token 等环境变量；启动服务：运行 FastAPI 后端服务和 Rasa 服务，然后上传文档进行训练测试