Jan

活跃
GitHub TypeScript NOASSERTION

简介

Jan 是一个开源的 ChatGPT 替代方案,可在电脑上 100% 离线运行,支持多种本地大语言模型,提供完整的桌面聊天应用界面和 API 服务。

核心特性

  • 本地大模型运行 — 从 HuggingFace 下载并运行 Llama、Gemma、Qwen 等开源模型
  • 云端模型集成 — 支持 OpenAI GPT、Anthropic Claude、Mistral、Groq 等云端 API
  • 本地 OpenAI 兼容 API — 在 localhost:1337 提供本地 API 服务供其他应用调用
  • MCP 协议支持 — 集成 Model Context Protocol 实现 Agent 能力
  • 自定义助手 — 创建针对特定任务的专用 AI 助手
  • 隐私优先 — 数据完全在本地运行,不依赖外部服务器

适用场景

💡 作为 ChatGPT 的隐私优先替代品在本地运行
💡 在无网络环境下使用本地大语言模型进行对话和任务处理
💡 为其他应用程序提供本地 OpenAI 兼容的 API 服务
💡 通过 MCP 协议将本地模型与外部工具和数据源集成
💡 在企业环境中部署本地化的 AI 助手保护数据安全

优势与不足

优势

  • 活跃维护,近期持续更新
  • 社区热度高(44.4k stars)
  • 项目有一定历史沉淀(已维护 3 年)

⚠️ 不足

  • 缺少明确的开源许可证

快速开始

# 从 GitHub 下载安装包
# macOS: jan.dmg
# Windows: jan.exe
# Linux: jan.deb

# 或从源码构建
git clone https://github.com/janhq/jan
cd jan
make dev

# 本地 API 默认端口
# curl http://localhost:1337/v1/chat/completions

相关项目

LlamaGPT

10.9k · TypeScript
不活跃 C

LlamaGPT 是一个自托管的离线 ChatGPT 替代方案,基于 Llama 2 构建,100% 私有化运行,数据不离开设备,支持 Code Llama,可通过 Umbrel 一键部署。

chat-uiself-hostedllama +3
  • · 100% 私有离线 —— 数据不离开设备,完全自托管
  • · 支持多种 Llama 2 和 Code Llama 模型(7B、13B、34B、70B)
  • · 通过 Umbrel 应用商店一键安装至 Umbrel 家庭服务器

text-generation-webui

47.6k · Python
活跃 A

text-generation-webui 是最经典的本地大语言模型交互界面,支持文本生成、视觉理解、工具调用和模型训练,提供 Web UI 和 API 接口,100% 离线运行且保护隐私。

chat-uilocal-llmtext-generation +3
  • · 多后端支持 — 集成 llama.cpp、ExLlamaV3、Transformers、TensorRT-LLM 等多个推理后端,支持热切换
  • · OpenAI/Anthropic兼容API — 提供 Chat、Completions、Messages 端点,可作为本地 API 替代方案
  • · 视觉多模态 — 支持图片附件进行视觉理解,可上传 PDF、DOCX 等文件进行内容对话