ollama

Get up and running with Kimi-K2.5, GLM-5, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models.

open-sourceagent-frameworks

Visit Website View on GitHub

166.3k

Stars

+13859

Stars/month

Releases (6m)

Overview

Ollama 是一个强大的本地语言模型运行平台，让开发者能够在本地环境中轻松部署和使用开源大语言模型，如 Kimi-K2.5、GLM-5、MiniMax、DeepSeek、Qwen、Gemma 等。作为一个跨平台解决方案，Ollama 支持 macOS、Windows、Linux 和 Docker 环境，为不同操作系统的用户提供了统一的模型运行体验。该工具基于 llama.cpp 项目构建，提供了简洁的 CLI 界面和完整的 REST API，使得模型集成变得简单直接。Ollama 的核心优势在于其丰富的生态系统集成能力，支持与 Claude Code、Codex、OpenClaw 等多种 AI 工具的无缝连接，能够将本地模型转化为跨平台 AI 助手，覆盖 WhatsApp、Telegram、Slack、Discord 等多个通讯平台。通过官方的 Python 和 JavaScript 库，开发者可以快速构建基于本地模型的应用程序，而无需依赖外部 API 服务，确保数据隐私和成本控制。

Pros

+ 完全本地运行，确保数据隐私和安全，无需将敏感信息发送到外部服务器
+ 支持广泛的开源模型生态，包括最新的 Kimi-K2.5、GLM-5、DeepSeek 等前沿模型
+ 丰富的集成生态系统，可与 Claude Code、OpenClaw 等工具连接，快速构建跨平台 AI 应用

Cons

- 依赖本地计算资源，运行大型模型需要较高的 CPU/GPU 和内存配置
- 模型推理速度受限于本地硬件性能，可能不如云端专用硬件快
- 需要手动管理模型版本更新和依赖关系

Use Cases

• 企业级私有部署，在内网环境中运行大语言模型，确保敏感数据不外泄
• 开发者工具集成，通过 Claude Code 等编码助手在本地环境中获得 AI 代码建议
• 多平台聊天机器人开发，使用 OpenClaw 将本地模型部署到 Slack、Discord 等通讯平台

Getting Started

1. 安装 Ollama：根据操作系统运行 `curl -fsSL [link] | sh`（Linux/macOS）或下载安装包；2. 下载并运行模型：执行 `ollama run gemma3` 来启动一个模型并开始对话；3. 集成应用：使用 `ollama launch claude` 启动特定集成，或通过 REST API（`[link]