这是什么
llamafile 是 Mozilla（Mozilla Builders 项目，现由 Mozilla.ai 维护）推出的开源项目，26,000+ Star、1,600+ Fork。它的创意简单又硬核：把整个大模型连同推理引擎，打包成「一个可执行文件」。你下载一个几 GB 的 .llamafile 文件，双击（或加执行权限）就能直接跑起一个本地大模型，无需安装 Python、无需配环境、无需懂命令行，跨 Windows、macOS、Linux 以及多种 CPU 架构。它把 llama.cpp 和 Cosmopolitan Libc 结合在一起，把 LLM 运行的全部复杂度收进一个文件，让普通用户也能零门槛用上本地大模型。
核心能力
- 单文件分发：模型与推理引擎合成一个可执行文件，下载即用，免安装免配置
- 跨平台免依赖：Windows、macOS、Linux 及 x86、ARM 多种架构都能跑，无需额外环境
- 内置 OpenAI 兼容 API：启动即暴露本地 API 服务，任何兼容 OpenAI 的客户端都能接入
- 浏览器图形界面：自带本地网页聊天界面，打开浏览器就能对话
- 附语音转文字：内置 whisperfile 单文件语音转文字工具，本地跑 Whisper 转写
- 100% 本地离线：数据不出本机，隐私安全，断网也能用
适合谁
- 想零门槛体验本地大模型、又不想折腾环境的普通用户
- 对数据隐私敏感、不愿把内容上传到云端 AI 的个人与企业
- 需要在一台机器上快速分发、演示模型的开发者与讲师
- 想在弱网或离线环境使用大模型和语音转写的用户
获取方式
官网 docs.mozilla.ai/llamafile，从 Hugging Face 或官方 Release 下载对应平台的 .llamafile 文件，macOS/Linux 下 chmod +x 后运行，Windows 下直接双击。采用 Apache-2.0 协议开源，完全免费；模型文件从几百 MB 到几十 GB 不等，按需选择。
官网：https://docs.mozilla.ai/llamafile
项目地址：https://github.com/mozilla-ai/llamafile
相关阅读
© 版权声明
文章版权归作者所有，未经允许请勿转载。
