这是什么
TextGen（原名 text-generation-webui，老玩家口中的 oobabooga WebUI）是 GitHub 上最经典的本地大模型图形界面项目，4.7 万+ Star、近 6000 Fork，Python 编写，AGPL-3.0 开源。它从早期的纯网页聊天界面进化成了一款桌面应用：下载、解压、双击就能运行，把聊天、图片理解、工具调用、联网搜索都收进一个窗口，同时还能对外提供 OpenAI 和 Anthropic 兼容的 API 接口。最关键的是它 100% 本地运行、没有任何遥测，你的对话和文档一个字都不会上传到服务器。
核心能力
- 零配置桌面应用：下载便携版解压双击即用，Windows、macOS、Linux 都提供 CUDA、Vulkan、ROCm、纯 CPU 多种版本
- 多模态视觉对话：给消息附上图片，模型能看懂图片内容并回答，直接支持视觉理解
- 文件附件问答：上传 txt、PDF、docx 文档，直接针对文档内容提问
- 多推理后端：内置 llama.cpp、ik_llama.cpp、Transformers、ExLlamaV3、TensorRT-LLM 多种后端，切换后端和模型无需重启
- 角色扮演聊天：instruct 模式像 ChatGPT 一样遵循指令，chat 与 chat-instruct 模式用来和自定义角色对话
- 对话分支管理：编辑历史消息、在任意节点分支对话、切换不同版本的回答
- 兼容 API 接口：启动即暴露 OpenAI 与 Anthropic 兼容的本地 API，任何兼容客户端都能接入
适合谁
- 想在自己的电脑上零门槛跑开源大模型、又不愿折腾命令行的普通用户
- 对隐私敏感、不愿把对话和文档上传到云端 AI 的个人与企业
- 需要本地图形界面快速对比不同模型和推理后端的开发者
- 想玩自定义角色、视觉理解、文件问答等高级功能的进阶玩家
获取方式
本项目无独立官网，GitHub 即项目主页，Releases 页面提供各平台便携版下载（含 CUDA、Vulkan、ROCm、纯 CPU 版），下载解压双击 textgen 即可运行。兼容 GGUF（llama.cpp）格式模型；如需 ExLlamaV3、Transformers 等额外后端或训练、图像生成、扩展功能，参考 wiki 的安装说明。采用 AGPL-3.0 协议开源，自用免费。
官网：https://github.com/oobabooga/textgen（项目主页，含下载）
项目地址：https://github.com/oobabooga/textgen
相关阅读
© 版权声明
文章版权归作者所有，未经允许请勿转载。
