dspy

DSPy: The framework for programming—not prompting—language models

open-sourceagent-frameworks
33.3k
Stars
+683
Stars/month
7
Releases (6m)

Star Growth

+131 (0.4%)
32.6k33.3k34.0kMar 27Apr 1

Overview

DSPy是一个革命性的语言模型编程框架,核心理念是"编程而非提示"。它允许开发者使用组合式Python代码来构建模块化AI系统,而不依赖脆弱的提示词工程。DSPy的全称是Declarative Self-improving Python,提供了优化提示词和模型权重的算法,支持从简单分类器到复杂RAG管道和Agent循环的各种AI应用。该框架的独特之处在于能够教授语言模型输出高质量结果,通过声明式编程方式实现自我改进。DSPy由斯坦福大学开发,拥有丰富的学术研究基础,包括多篇顶级会议论文。框架支持快速迭代开发,具有活跃的开源社区和完善的文档系统。对于需要构建可靠、可维护AI系统的开发者来说,DSPy提供了一种更加工程化和可控的方法,避免了传统提示词工程的不确定性和维护难题。

Deep Analysis

Key Differentiator

Replaces hand-crafted prompts with compiled, automatically optimized programs — vs LangChain/LlamaIndex where you manually engineer every prompt

Capabilities

  • Programming (not prompting) paradigm for language models
  • Automatic prompt optimization and weight tuning
  • Declarative module composition for building modular AI systems
  • Support for classifiers, RAG pipelines, and agent loops
  • Self-improving pipelines with compiled optimizations
  • Assertions for computational constraints on LM outputs

🔗 Integrations

OpenAIAnthropicGoogleCohereHugging Face

Best For

  • Teams wanting systematic prompt optimization instead of manual tuning
  • Research on modular, self-improving AI systems

Not Ideal For

  • Simple chatbot applications
  • Teams preferring explicit prompt control

Languages

Python

Deployment

pip install

Pricing Detail

Free: Fully open source (MIT)
Paid: N/A

Known Limitations

  • Steep learning curve — paradigm shift from prompt engineering
  • Optimization requires labeled examples or evaluation functions
  • Debug visibility is limited compared to explicit prompt-based approaches
  • Less mature ecosystem than LangChain for production deployment

Pros

  • + 采用编程范式替代提示词工程,提供更稳定可靠的AI系统开发方式
  • + 内置优化算法能够自动改进提示词和模型权重,实现系统自我优化
  • + 支持模块化架构,可构建从简单分类器到复杂RAG管道的各种AI应用

Cons

  • - 相比传统提示词方法有一定学习曲线,需要掌握框架特定的编程概念
  • - 作为相对新的框架,生态系统和第三方集成可能不如成熟的AI开发工具丰富
  • - 主要面向有编程经验的开发者,对非技术用户门槛较高

Use Cases

  • 构建企业级RAG(检索增强生成)系统,需要稳定可靠的文档问答能力
  • 开发复杂的AI Agent循环系统,处理多步骤推理和决策任务
  • 构建大规模分类和内容处理管道,需要高质量输出和可优化性能

Getting Started

1. 安装DSPy:运行 `pip install dspy` 命令;2. 访问官方文档:前往 dspy.ai 学习核心概念和编程模式;3. 编写第一个程序:使用DSPy的声明式语法创建简单的语言模型调用,体验编程式AI开发

Compare dspy