OllamaTranslation site

Ollama 是运行和接入开放模型的工具，既能把模型下载到自己的电脑，也提供无需本地显卡的云模型服务。它把模型下载、启动、聊天和 API 调用放进同一套工作方式中，适合希望尝试本地 AI、给应用接入模型，或为编程助手选择开放模型的用户。

Ollama 是什么

Ollama 的服务运营主体为 Ollama Inc.，本地项目在官方 GitHub 仓库公开，代码采用 MIT 许可证。需要分清的是：运行工具的许可证、下载模型的许可证和云服务条款各有适用范围，不能因为运行工具开源，就推断所有模型都可不受限制地商用。Terms of Service,官方项目,Code License

官网为 ollama.com，模型库与文档也由官网提供。Ollama 自身负责运行和提供访问接口；回答的中文能力、推理能力及视觉理解效果，仍取决于具体模型。

Core competencies

• 本地模型运行：下载模型后在本机执行推理，通过桌面应用或命令行聊天；本地 API 不需要云端 API 密钥。
• 文件与图片对话：macOS、Windows 桌面应用支持拖入文本、PDF 和代码文件；图片任务需要选择支持图像的模型。处理更长的材料需要更多内存。
• 应用开发接口：提供本地与云端 API，以及官方 Python、JavaScript 库；兼容接口方便已有客户端接入，但只覆盖相应厂商 API 的部分功能。
• 向量与检索应用：可使用嵌入模型生成文本向量，作为搜索、聚类或知识库检索的组成部分。完整知识库仍需另行准备文档处理与检索流程。
• 云模型：本机装不下的模型可通过云端调用；直接调用云 API 不必安装 Ollama，但需要账户、密钥和可用额度。

参见桌面应用说明,API 文档cap (a poem)嵌入模型文档.

适合怎样使用

• 学习本地 AI：从小型模型开始，比较不同模型对同一道问题的回答，同时观察内存占用和响应速度。
• 整理个人资料：在确认使用本地模型的前提下，对本机文稿做摘要、提纲与问答。输出中的数字、引用和原文细节仍需核对。
• 开发内部原型：把本地服务接到应用中，验证聊天、文本分类或检索辅助流程，再决定是否需要云端算力。
• Programming Aids:选择适合代码任务的模型，接入受支持的编程工具。修改文件、运行命令等权限属于客户端工具，应单独控制。

第一次使用的建议步骤

1. 在官网下载对应系统版本，先检查系统要求和磁盘空间。模型文件可能较大，不要只看安装程序大小。
2. 从官方模型库选择适配设备的模型。桌面用户可在应用中下载；命令行用户可用 ollama run 模型名 启动，把“模型名”替换为模型库给出的名称。
3. 先测试一段短文本。若速度慢或内存吃紧，优先换较小模型、缩短上下文，而不是立刻增加并发。
4. 需要接入程序时，使用默认本地地址 http://localhost:11434，按文档调用聊天或嵌入接口。默认保留仅本机监听更适合个人试用。
5. 如果改用云模型，先确认请求目标和计费方式。需严格本地运行时，可按官方 FAQ 关闭云功能，并检查所接客户端是否另行联网。

具体命令与接入方法见快速开始cap (a poem)common problems.

平台、硬件与费用

截至 2026 年 10 月 19 日，官方安装文档要求 Mac 使用 macOS Sonoma 14 或更新版本；Apple M 系列支持 CPU 和 GPU，Intel Mac 以 CPU 运行。Windows 要求 Windows 10 22H2 或更新版本，GPU 加速还需匹配显卡及驱动。Linux 有独立安装路线。macOS 要求,Windows 要求,Linux 安装

本地运行不按 token 向 Ollama 付费，但电脑、存储、电力和维护仍有成本。能否流畅运行取决于模型大小、量化方式、上下文长度和可用内存/显存，没有适用于所有模型的一条“最低内存”标准。

云服务在 2026 年 8 月 31 日公布了新的按 token 计费方案。当前 Free 提供少量起始额度，也可购入按量额度；Pro 为 20 美元/月，含每月 60 美元使用额度；Max 为 100 美元/月，含每月 300 美元使用额度；Team 为 500 美元/月，含团队共享的每月 1,000 美元使用额度。月度内含额度不会结转，模型费率按价格页列示；旧订阅可能仍沿用旧方案，需看账户中的实际计划。当前价格,计费调整说明

隐私和能力边界

官方 FAQ 说明，本地推理时 Ollama 看不到用户的提示词或数据；云模型则需要在服务器处理输入和输出，官方声明不保存或记录这些内容，也不用它们训练模型，但会收集必要的账户和有限用量元数据。因此，不能把“用的是 Ollama”直接等同于“所有数据都留在本机”。云模型、联网搜索及第三方客户端应分别检查。本地与云端数据说明

本地模型仍会产生错误，也可能不支持工具调用、图片或长文本。离线使用前需要准备好模型文件；云功能需要网络。把默认本机服务开放给其他设备时，还要配置访问控制，避免暴露一个缺少保护的推理接口。

与同类工具比较

Recommendations for selection

如果你愿意为本地模型准备硬件，并希望把模型能力接入自己的工作流，Ollama 是值得尝试的起点。先用一款小模型完成一个真实任务，再按实际速度、效果和数据要求决定升级硬件、换模型或使用云服务。

封面图片：Ollama 官方桌面应用发布示例（2025年7月30日）。