LocalAI
LocalAI 是开源 AI 引擎。在任何硬件上运行任何模型——LLM、视觉、语音、图像、视频模型。无需 GPU。
仍在活跃开发：最近 90 天有 1,405 次提交，最近一次提交在 2026-10-01。
GitHub 星数
4.9 万
近 30 天涨星
+270
近 90 天提交
1,405
近 6 个月发版
10
LocalAI 是一个可组合的开源引擎，可在任何硬件上运行 LLM、视觉、语音、图像和视频模型，包括仅配备 CPU 的系统。它提供可直接替换 OpenAI、Anthropic 和 ElevenLabs 的兼容 API，并内置自主 Agent、工具使用、RAG 和 MCP 功能。
和同类工具的区别
可组合的开源核心，按需拉取专用后端，让任何模型都能在任何硬件上运行，并提供完整的 API 兼容性。
主要能力
- 运行 LLM、视觉、语音、图像和视频模型
- 内置支持工具使用的自主 Agent
- 集成 RAG 和 MCP
- 多用户 API 密钥认证和配额
- 微调和量化
适合
- 在任何硬件上本地运行 AI 模型
- 构建具备隐私和数据控制能力的 Agent
- 使用统一 API 的多模态 AI 应用
不太适合
- 无需定制的终端用户聊天机器人应用
- 仅使用云端 AI 服务的用户
局限
- 需要管理本地基础设施
- 性能取决于本地硬件
LocalAI 的替代品
- Open WebUI：易用的 AI 界面（支持 Ollama、OpenAI API、...）（15.4 万星）
- AnythingLLM：一体化 AI 生产力加速工具。在设备端运行，隐私优先，无需繁琐的设置或配置。（6.7 万星）
- LibreChat：面向多种 AI 模型、Agent 和沙箱代码执行的开源类 ChatGPT 界面（4.5 万星）
- OpenLLM（1.3 万星）
- TextGen（4.8 万星）
- MaxKB（2.3 万星）
常见问题
- LocalAI 是做什么的？
- LocalAI 是一个可组合的开源引擎，可在任何硬件上运行 LLM、视觉、语音、图像和视频模型，包括仅配备 CPU 的系统。它提供可直接替换 OpenAI、Anthropic 和 ElevenLabs 的兼容 API，并内置自主 Agent、工具使用、RAG 和 MCP 功能。
- LocalAI 还在维护吗？
- 仍在活跃开发：最近 90 天有 1,405 次提交，最近一次提交在 2026-10-01。
- LocalAI 有哪些替代品？
- 和 LocalAI 最接近的开源替代品有 Open WebUI、AnythingLLM、LibreChat、OpenLLM、TextGen、MaxKB。
- LocalAI 是开源的吗？
- 是的，LocalAI 是开源项目，代码托管在 GitHub 上。
星数、提交和发版数据来自 GitHub API，每天自动刷新。介绍文字由 AI 从英文翻译，并经过第二个模型的回译校对。 项目地址：github.com/mudler/LocalAI