DSPy
活跃简介
Stanford NLP 提出的编程式 LLM pipeline 框架。
核心特性
- 签名式编程 — 声明输入输出
- 优化器 — 自动调优 prompt
- 多模型 — OpenAI、Anthropic、本地
- 可复现 — 编译产物可保存
- 可组合 — 模块化设计
适用场景
💡 为 RAG pipeline 自动调优 prompt。
💡 为分类任务做少样本 prompt 优化。
💡 为论文复现提供可编程的 LLM 抽象。
分类
快速开始
# pip
pip install dspy
import dspy
lm = dspy.OpenAI(model='gpt-4o')
dspy.settings.configure(lm=lm)
classify = dspy.Predict('sentence -> sentiment')
print(classify(sentence='I love this product').sentiment)