NadirClaw
Open-source LLM router & AI cost optimizer. Routes simple prompts to cheap/local models, complex ones to premium — automatically. Drop-in OpenAI-compatible proxy for Claude Code, Codex, Cursor, OpenCl
368
Stars
+31
Stars/month
10
Releases (6m)
Overview
NadirClaw 是一个开源的 LLM 路由器和 AI 成本优化工具，通过智能分析提示复杂度自动将请求路由到最合适的模型。它能识别简单任务（如代码格式化、简单问答）并将其发送到成本更低的模型（如 Gemini Flash、Claude Haiku），而将复杂任务（如代码重构、调试）路由到高端模型。该工具作为 OpenAI 兼容的代理运行，可无缝集成到 Claude Code、Cursor、Continue、Aider 等开发工具中。NadirClaw 在本地运行，确保 API 密钥安全，支持故障转移链，并提供实时成本追踪和预算管理功能。分类延迟仅约 10ms，几乎不影响使用体验，但能在实际使用中节省 40-70% 的 AI API 成本。
Pros
- + 显著成本节省：通过智能路由可节省 40-70% 的 AI API 成本，特别适合高频使用场景
- + 即插即用兼容性：作为 OpenAI 兼容代理，可直接集成到现有的 AI 开发工具中无需修改代码
- + 隐私保护设计：完全本地运行，API 密钥和数据不会发送到第三方服务器
Cons
- - 分类准确性依赖：可能存在复杂度判断错误，导致重要任务被路由到能力不足的模型
- - 配置复杂性：需要设置和管理多个模型提供商的 API 密钥和配置
- - 额外运行开销：需要运行本地代理服务，增加了系统复杂度
Use Cases
- • 开发团队降低 AI 辅助编程成本：在日常代码审查、文档生成、简单问答中使用便宜模型，复杂架构设计使用高端模型
- • AI 应用开发中的成本控制：在构建聊天机器人或 AI 助手时，根据用户查询复杂度智能选择模型以控制运营成本
- • 大规模内容处理任务：在批量文本处理、翻译、格式化等场景中，自动筛选简单任务使用低成本模型完成
Getting Started
1. 安装：执行 `pip install nadirclaw` 从 PyPI 安装工具；2. 配置：设置各个模型提供商的 API 密钥和路由规则；3. 启动使用：运行 `nadirclaw serve` 启动代理服务器，然后将现有 AI 工具的 API 端点指向 localhost:8856 即可开始智能路由