ChatterUI

活跃
GitHub TypeScript AGPL-3.0

简介

ChatterUI 是一个面向 LLM 的原生移动聊天前端，可加载本地模型或连接 OpenAI、Claude、Ollama 等多种 API。

核心特性

  • 本地模型推理 — 通过 cui-llama.rn 适配 llama.cpp，在 Android 上直接跑 gguf 模型
  • 多 API 接入 — 支持 OpenAI、Claude、Cohere、OpenRouter、Mancer、Ollama、koboldcpp 等
  • 角色卡片规范 — 兼容 Character Card v2 规范，可导入 SillyTavern 等生态的角色卡
  • 采样与提示词可调 — Sampler 字段和 Instruct 格式化可自由定制
  • 离线与隐私 — 本地模式下对话内容全程不上云
  • 设备 TTS 集成 — 直接调用系统 TTS 引擎朗读回复

适用场景

💡 在 Android 手机上离线运行 gguf 量化模型与 AI 角色聊天
💡 接入自建 Ollama / koboldcpp 服务做隐私对话
💡 把现有角色卡从 SillyTavern 迁移到移动端继续使用
💡 通过 OpenAI / Anthropic 兼容 API 在手机上做日常对话
💡 在没有 GPU 的设备上体验 LLM 聊天

标签

chat-ui mobile react-native llama on-device

分类

💬 聊天界面

快速开始

# 准备 Android SDK（API 33+）和 Java 17/21
# 克隆仓库并安装依赖
git clone https://github.com/Vali-98/ChatterUI.git
cd ChatterUI
npm install

# 启动 Android 开发构建
npx expo run:android

# 第一次启动后：
# 1. 进入 Settings -> Local Mode 启用本地推理
# 2. 进入 Models -> Import Model 选择一个 gguf 模型
# 3. 加载后即可在 Chat 页面开始对话
访问 GitHub 查看文档

相关项目