
Ollama 是运行和接入开放模型的工具,既能把模型下载到自己的电脑,也提供无需本地显卡的云模型服务。它把模型下载、启动、聊天和 API 调用放进同一套工作方式中,适合希望尝试本地 AI、给应用接入模型,或为编程助手选择开放模型的用户。
Ollama 是什么
Ollama 的服务运营主体为 Ollama Inc.,本地项目在官方 GitHub 仓库公开,代码采用 MIT 许可证。需要分清的是:运行工具的许可证、下载模型的许可证和云服务条款各有适用范围,不能因为运行工具开源,就推断所有模型都可不受限制地商用。服务条款、官方项目、代码许可证
官网为 ollama.com,模型库与文档也由官网提供。Ollama 自身负责运行和提供访问接口;回答的中文能力、推理能力及视觉理解效果,仍取决于具体模型。
核心能力
- 本地模型运行:下载模型后在本机执行推理,通过桌面应用或命令行聊天;本地 API 不需要云端 API 密钥。
- 文件与图片对话:macOS、Windows 桌面应用支持拖入文本、PDF 和代码文件;图片任务需要选择支持图像的模型。处理更长的材料需要更多内存。
- 应用开发接口:提供本地与云端 API,以及官方 Python、JavaScript 库;兼容接口方便已有客户端接入,但只覆盖相应厂商 API 的部分功能。
- 向量与检索应用:可使用嵌入模型生成文本向量,作为搜索、聚类或知识库检索的组成部分。完整知识库仍需另行准备文档处理与检索流程。
- 云模型:本机装不下的模型可通过云端调用;直接调用云 API 不必安装 Ollama,但需要账户、密钥和可用额度。
适合怎样使用
- 学习本地 AI:从小型模型开始,比较不同模型对同一道问题的回答,同时观察内存占用和响应速度。
- 整理个人资料:在确认使用本地模型的前提下,对本机文稿做摘要、提纲与问答。输出中的数字、引用和原文细节仍需核对。
- 开发内部原型:把本地服务接到应用中,验证聊天、文本分类或检索辅助流程,再决定是否需要云端算力。
- 编程辅助:选择适合代码任务的模型,接入受支持的编程工具。修改文件、运行命令等权限属于客户端工具,应单独控制。
第一次使用的建议步骤
- 在官网下载对应系统版本,先检查系统要求和磁盘空间。模型文件可能较大,不要只看安装程序大小。
- 从官方模型库选择适配设备的模型。桌面用户可在应用中下载;命令行用户可用
ollama run 模型名启动,把“模型名”替换为模型库给出的名称。 - 先测试一段短文本。若速度慢或内存吃紧,优先换较小模型、缩短上下文,而不是立刻增加并发。
- 需要接入程序时,使用默认本地地址
http://localhost:11434,按文档调用聊天或嵌入接口。默认保留仅本机监听更适合个人试用。 - 如果改用云模型,先确认请求目标和计费方式。需严格本地运行时,可按官方 FAQ 关闭云功能,并检查所接客户端是否另行联网。
平台、硬件与费用
截至 2026 年 10 月 19 日,官方安装文档要求 Mac 使用 macOS Sonoma 14 或更新版本;Apple M 系列支持 CPU 和 GPU,Intel Mac 以 CPU 运行。Windows 要求 Windows 10 22H2 或更新版本,GPU 加速还需匹配显卡及驱动。Linux 有独立安装路线。macOS 要求、Windows 要求、Linux 安装
本地运行不按 token 向 Ollama 付费,但电脑、存储、电力和维护仍有成本。能否流畅运行取决于模型大小、量化方式、上下文长度和可用内存/显存,没有适用于所有模型的一条“最低内存”标准。
云服务在 2026 年 8 月 31 日公布了新的按 token 计费方案。当前 Free 提供少量起始额度,也可购入按量额度;Pro 为 20 美元/月,含每月 60 美元使用额度;Max 为 100 美元/月,含每月 300 美元使用额度;Team 为 500 美元/月,含团队共享的每月 1,000 美元使用额度。月度内含额度不会结转,模型费率按价格页列示;旧订阅可能仍沿用旧方案,需看账户中的实际计划。当前价格、计费调整说明
隐私和能力边界
官方 FAQ 说明,本地推理时 Ollama 看不到用户的提示词或数据;云模型则需要在服务器处理输入和输出,官方声明不保存或记录这些内容,也不用它们训练模型,但会收集必要的账户和有限用量元数据。因此,不能把“用的是 Ollama”直接等同于“所有数据都留在本机”。云模型、联网搜索及第三方客户端应分别检查。本地与云端数据说明
本地模型仍会产生错误,也可能不支持工具调用、图片或长文本。离线使用前需要准备好模型文件;云功能需要网络。把默认本机服务开放给其他设备时,还要配置访问控制,避免暴露一个缺少保护的推理接口。
与同类工具比较
| 工具 | 侧重点 | 适合场景 | 主要取舍 |
|---|---|---|---|
| Ollama | 模型下载运行、命令行、桌面聊天及本地/云 API | 本地实验、开发集成、开放模型编程辅助 | 本地性能受硬件限制;云端另外计费 |
| LM Studio | 图形界面的本地模型聊天、文档问答和本地服务 | 偏好可视化操作,希望在桌面管理模型与文档的人 | 下载模型和运行时需联网;离线推理同样依赖本机资源 |
| llama.cpp | C/C++ 推理引擎及命令行、服务工具 | 需要更直接控制模型格式、量化与硬件后端的开发者 | 配置和调优更偏技术,需要理解模型与硬件选项 |
| OpenRouter | 托管多模型 API 网关与供应商路由 | 无需维护本地推理环境,快速切换云模型 | 需要联网;推理由平台连接的供应商执行,隐私与费用需逐项检查 |
选择建议
如果你愿意为本地模型准备硬件,并希望把模型能力接入自己的工作流,Ollama 是值得尝试的起点。先用一款小模型完成一个真实任务,再按实际速度、效果和数据要求决定升级硬件、换模型或使用云服务。
封面图片:Ollama 官方桌面应用发布示例(2025年7月30日)。
数据统计
相关导航

Meta开源的革命性单图3D生成模型,支持一键从2D照片生成高保真、可交互的3D模型,覆盖物体/人体场景,赋能电商、AR/VR、影视等多行业降本增效。

DeepSeek-Math-V2
全球首个以开源形式达到国际数学奥林匹克(IMO)金牌水平的数学推理大模型,通过自验证框架实现推理严谨性与高难度数学题求解能力。
Orkas
由主智能体拆解任务,协调研究、写作、办公和开发助手,在桌面里连续处理多步骤工作。

HunyuanVideo-Avatar
腾讯混元开源语音数字人模型,上传图片音频即生成多风格、高动态的个性化动态视频。

Qwen-Image
阿里通义千问开源的200亿参数图像生成模型,擅长中英文高保真文本渲染与复杂场景细节处理,支持多风格图片生成。

Waver 1.0
Waver 1.0是款开源全功能视频生成模型,能轻松实现文本/图像到高清视频的创作,高效便捷且质量出众。

OpenHands
开源软件开发代理平台,旨在通过智能任务执行和代码优化等功能,提高开发者的效率和生产力。

AlphaDrive
结合视觉语言模型与强化学习的自动驾驶技术框架,具备强大规划推理和多模态规划能力,可应对复杂罕见交通场景。
暂无评论...
