RasaGPT
💬 RasaGPT is the first headless LLM chatbot platform built on top of Rasa and Langchain. Built w/ Rasa, FastAPI, Langchain, LlamaIndex, SQLModel, pgvector, ngrok, telegram
2.5k
Stars
+205
Stars/month
0
Releases (6m)
Overview
RasaGPT 是首个基于 Rasa 和 Langchain 构建的 headless LLM 聊天机器人平台，将传统的 Rasa 对话管理框架与现代大语言模型能力相结合。该平台提供开箱即用的解决方案，集成了 FastAPI、LlamaIndex、SQLModel、pgvector 等现代技术栈，支持通过 Telegram 等多个渠道部署聊天机器人。RasaGPT 解决了将 LLM 集成到 Rasa 框架中的技术难题，包括库冲突处理、多租户支持、文档索引和检索等核心功能。平台采用 Docker 化部署，通过 ngrok 提供反向代理支持，并使用 pgvector 实现自定义向量存储方案而非依赖 Langchain 的固化实现。作为参考实现和样板代码，RasaGPT 为开发者提供了完整的 LLM 驱动对话系统架构，特别适合需要结合传统对话管理和现代生成式 AI 能力的企业级应用场景。
Pros
- + 开箱即用的完整解决方案，解决了 Rasa 与 LLM 集成的所有技术痛点，包括库冲突、元数据传递等问题
- + 提供完整的技术栈集成，包括 FastAPI 后端、文档上传训练管道、Docker 支持和多平台部署能力
- + 实现了自定义 pgvector 集成和多租户架构，比使用 Langchain 原生方案更加灵活可控
Cons
- - 作者明确表示这不是生产级代码，存在 prompt injection 和多种安全漏洞风险
- - 作为概念验证项目，缺乏企业级的安全性、稳定性和性能优化
- - 学习成本较高，需要同时掌握 Rasa、Langchain 和 FastAPI 等多个框架
Use Cases
- • 企业内部知识库问答系统，需要结合传统规则对话和 LLM 生成能力的客服场景
- • 多渠道聊天机器人部署，特别是需要同时支持 Telegram、Slack 等平台的应用
- • 需要文档索引和检索功能的智能助手，如技术文档查询、产品说明书问答等场景
Getting Started
安装依赖：克隆项目后运行 Docker Compose 启动 PostgreSQL 和 Redis 服务；配置环境：设置 API keys、数据库连接和 Telegram Bot Token 等环境变量；启动服务：运行 FastAPI 后端服务和 Rasa 服务，然后上传文档进行训练测试