Langchain-Chatchat vs RasaGPT

Side-by-side comparison of two AI agent tools

Langchain-Chatchat(原Langchain-ChatGLM)基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM, Qwen and Ll

RasaGPTopen-source

💬 RasaGPT is the first headless LLM chatbot platform built on top of Rasa and Langchain. Built w/ Rasa, FastAPI, Langchain, LlamaIndex, SQLModel, pgvector, ngrok, telegram

Metrics

Langchain-ChatchatRasaGPT
Stars38.7k2.5k
Star velocity /mo161.229946524064160.32085561497326204
Commits (90d)00
Releases (6m)00
Overall score0.38069507800263590.20033130539218696

Pros

  • +完全开源且支持离线部署,确保数据隐私和安全性
  • +专门针对中文场景优化,对ChatGLM、Qwen等中文模型支持友好
  • +基于成熟的Langchain框架,提供稳定的RAG与Agent功能架构
  • +开箱即用的完整解决方案,解决了 Rasa 与 LLM 集成的所有技术痛点,包括库冲突、元数据传递等问题
  • +提供完整的技术栈集成,包括 FastAPI 后端、文档上传训练管道、Docker 支持和多平台部署能力
  • +实现了自定义 pgvector 集成和多租户架构,比使用 Langchain 原生方案更加灵活可控

Cons

  • -需要本地部署和维护,对用户的技术水平和硬件资源有较高要求
  • -相比云端AI服务,在计算效率和响应速度上可能存在劣势
  • -多种模型选择和配置可能增加使用复杂度
  • -作者明确表示这不是生产级代码,存在 prompt injection 和多种安全漏洞风险
  • -作为概念验证项目,缺乏企业级的安全性、稳定性和性能优化
  • -学习成本较高,需要同时掌握 Rasa、Langchain 和 FastAPI 等多个框架

Use Cases

  • •企业内部构建基于私有文档的知识库问答系统
  • •对数据安全有严格要求的政府或金融机构AI应用
  • •研究机构进行中文自然语言处理实验和模型测试
  • •企业内部知识库问答系统,需要结合传统规则对话和 LLM 生成能力的客服场景
  • •多渠道聊天机器人部署,特别是需要同时支持 Telegram、Slack 等平台的应用
  • •需要文档索引和检索功能的智能助手,如技术文档查询、产品说明书问答等场景