kotaemon 开源 RAG 文档问答工具实测:把 PDF 变成可对话的 AI 助手,2.6 万星 kotaemon 怎么用?本文实测这款2.6万星的开源RAG工具,教你上传PDF、网页与表格,搭建本地知识库问答助手,支持本地大模型与引用溯源。 AI开源工具实测大模型与AI助手# kotaemon# RAG文档问答# 本地大模型 2小时前610
llama.cpp 开源本地大模型推理引擎实测:Ollama 的底层心脏,一条命令跑通任意模型,13.3 万星 llama.cpp 怎么用?本文实测这款13.3万星的开源大模型推理引擎,教你用 C/C++ 引擎在 CPU、NVIDIA、AMD、Apple Silicon 上本地跑量化模型,一条命令启动 Open... AI开源工具实测大模型与AI助手# GGUF# llama.cpp# 大模型推理 2小时前150
vLLM 开源大模型推理引擎实测:一条命令部署高性能 LLM 服务,9.6 万星 vLLM 怎么用?本文实测 GitHub 9.6 万 Star 的开源大模型推理引擎,教你一条命令部署 OpenAI 兼容的 LLM 服务,PagedAttention 省显存,支持 DeepSeek... AI开源工具实测大模型与AI助手# LLM部署# vLLM# 大模型推理 6天前200
Unsloth 开源本地大模型桌面应用实测:运行+微调一体,2 倍速训练省 70% 显存 Unsloth 怎么用?本文实测 GitHub 约 7.8 万 Star 的开源本地大模型桌面应用,教你一个软件同时跑 Qwen、DeepSeek、Gemma 并 2 倍速微调、省 70% 显存,Ap... AI开源工具实测大模型与AI助手# AI桌面应用# Unsloth# 大模型微调 4周前180
Local Deep Research 开源本地深度研究工具实测:在自己的电脑上跑 AI 深度研究,数据全加密 Local Deep Research 怎么用?本文实测开源本地深度研究工具,教你用本地大模型自动检索 arXiv、PubMed、网页做深度调研,SimpleQA 约 95% 准确率,数据全程加密不出... AI开源工具实测大模型与AI助手# AI研究# Local Deep Research# 本地大模型 1个月前330
exo 开源本地大模型集群工具实测:把手机、电脑连成 AI 集群,一起跑前沿模型 exo 怎么用?本文实测 4.8 万 Star 的开源本地大模型集群工具 exo,教你把手头的多台手机、电脑连成 AI 集群,突破单机显存跑 Llama、DeepSeek 等前沿模型,兼容 OpenA... AI开源工具实测大模型与AI助手# AI集群# exo# 分布式推理 1个月前410
TextGen 开源本地大模型桌面应用实测:零配置跑 DeepSeek、Qwen,文本视觉工具调用一应俱全 TextGen 怎么用?本文实测 4.8 万星的开源本地大模型桌面应用 TextGen(原 text-generation-webui),教你零配置本地跑 DeepSeek、Qwen 等开源模型,支持... AI开源工具实测大模型与AI助手# text-generation-webui# TextGen# 开源AI 2个月前430
llamafile 开源单文件大模型运行工具实测:一个文件,免安装本地跑 LLM llamafile 怎么用?本文实测 Mozilla 出品的开源项目 llamafile,教你用一个文件免安装本地运行大语言模型,跨平台零门槛,附 OpenAI 兼容接口与语音转文字,数据 100% ... AI开源工具实测大模型与AI助手# llamafile# Mozilla# 开源AI 2个月前360
Ollama 开源本地大模型运行工具:一条命令在电脑上跑 DeepSeek、Qwen 实测 Ollama 怎么用?本文实测 Ollama 本地部署大模型的完整流程:一条命令即可运行 DeepSeek、Qwen、Gemma 等开源模型,无需显卡服务器、完全离线可用,附安装命令、硬件要求与常用操... AI开源工具实测大模型与AI助手# AI工具实测# Ollama# 开源AI工具 2个月前730
Chatbox 开源 AI 客户端实测:一个界面玩转 DeepSeek、Claude 与本地大模型 Chatbox 怎么用?本文实测开源桌面 AI 客户端 Chatbox,教你一个界面接入 ChatGPT、Claude、DeepSeek、Gemini 与 Ollama 本地模型,本地优先保护隐私。 AI开源工具实测大模型与AI助手# AI客户端# Chatbox# 多模型对话 2个月前510