Text Generation WebUI
正常简介
Text Generation WebUI 是 oobabooga 出品的本地 LLM 一体化桌面工具，支持文本/视觉/工具调用与 Agent 工作流。
核心特性
- Web 化界面 — 启动即获得完整 Web UI
- 多模型支持 — GGUF、GPTQ、AWQ、EXL2 等格式
- 工具调用 — 内置 OpenAI 风格工具调用与函数执行
- 本地 RAG — 文档注入与上下文检索
- 插件扩展 — extensions 机制接入第三方能力
- 多模态 — 支持视觉模型与图像理解
适用场景
💡 本地电脑跑 LLM 与 Agent，无需 GPU 云服务
💡 研究不同开源模型在同一 UI 下的表现
💡 为 Agent 提供本地多模型推理后端
💡 把本地工具（搜索、命令执行）接到 LLM
优势与不足
✅ 优势
- • 社区热度高（47.5k stars）
- • 项目有一定历史沉淀（已维护 3 年）
⚠️ 不足
- • 许可证限制较多（AGPL-3.0）
分类
快速开始
('# 安装依赖并启动 WebUI', '# 在浏览器中访问 localhost:7860')
git clone https://github.com/oobabooga/text-generation-webui
cd text-generation-webui
python -m pip install -r requirements/full/requirements.txt
python server.py