免费开源的本地大模型运行工具,一条命令在电脑上跑 DeepSeek、Qwen、Gemma 等主流模型,完全离线可用。
官网地址:https://ollama.com
项目地址:https://github.com/ollama/ollama
这是什么
Ollama 是一款免费开源的本地大模型运行工具,让你可以直接在自己的电脑上跑 DeepSeek、Qwen、Gemma、Kimi、GLM 等主流开源模型,不需要租显卡服务器,也不需要联网调用云端 API。它同时支持 macOS、Windows、Linux 三大平台,装好之后一条命令就能把模型拉下来跑起来。项目在 GitHub 上已经积累了 18 万+ star,采用 MIT 协议开源,是目前本地部署大模型最省事的方案之一。
核心能力
- 一条命令跑模型:安装后输入
ollama run deepseek-r1就能开始对话,不用配环境、不用手动编译、不用折腾依赖。 - 官方模型库丰富:收录 DeepSeek、Qwen、Llama、Gemma、Mistral、GLM、Kimi 等主流开源模型,覆盖通用对话、代码生成、多模态识别等类型,持续更新。
- 完全离线可用:模型下载到本地后断网也能正常对话,所有数据留在自己机器上,适合处理不方便上传云端的敏感内容。
- 跨平台 + 容器化:官方提供三大系统安装包和 Docker 镜像,个人电脑、服务器、NAS 上都能一键部署。
- 开发者接口友好:自带 REST API,官方维护 Python 和 JavaScript SDK,方便把本地模型接入自己的程序或工作流。
- 硬件门槛低:7B 级别的轻量模型 8G 内存就能跑,量化版本对普通笔记本也比较友好。
适合谁
- 想省下大模型订阅费、希望长期免费使用的个人用户;
- 对数据隐私敏感,不希望聊天内容或商业资料上传云端的人;
- 需要批量调用模型、想控制调用成本的小团队和开发者;
- 正在学习 AI 应用开发,需要本地跑模型做实验的技术爱好者。
获取方式
到官网 ollama.com 下载对应系统的安装包(macOS / Windows / Linux),或者直接使用官方 Docker 镜像 ollama/ollama 部署。安装完成后在终端执行 ollama run 模型名 即可开始使用。软件本身完全免费开源(MIT 协议),没有订阅费用。
相关阅读
© 版权声明
文章版权归作者所有,未经允许请勿转载。