使用 OllaMan，小白也能运行大模型

你是否听说过"本地大模型"这个词？

ChatGPT、Claude、Gemini... 这些 AI 助手固然强大，但它们都运行在云端，你的对话内容需要上传到服务商的服务器。如果你在意隐私，或者想在没有网络的环境使用 AI，本地大模型就是你的答案。

问题是：对于没有技术背景的人来说，本地跑大模型听起来就很"硬核"——命令行、环境配置、模型下载... 光想想就头大。

好消息是：有了 OllaMan，这一切都变得简单了。

什么是 Ollama？什么是 OllaMan？

在开始之前，让我先帮你理清两个概念：

Ollama：本地大模型的"发动机"

Ollama 是一个开源项目，它让你可以在自己的电脑上运行各种开源大模型，比如：

• Llama 3：Meta 出品的顶级开源模型
• Qwen：阿里云出品，中文能力出色
• DeepSeek：深度求索出品，推理能力强劲
• Gemma：Google 出品的轻量级模型

Ollama 负责在你电脑上运行这些模型，但它只提供命令行界面——这也是很多新手望而却步的原因。

OllaMan：让 Ollama 可视化的"外卖柜"

如果把 Ollama 比作"后厨"，那 OllaMan 就是一个漂亮的"点餐台"。

OllaMan 是一款专为 Ollama 设计的桌面应用，它给 Ollama 穿上了一件现代化的"图形界面外衣"，让你可以：

• 👀 一目了然地查看已安装的模型
• 🖱️ 点点鼠标就能下载新模型
• 💬 直接对话，就像用 ChatGPT 一样
• 🎨 美观舒适的深色/浅色主题

简单说：Ollama 跑模型，OllaMan 让你爽。

准备工作：5 分钟搞定

第一步：安装 Ollama

首先需要在你的电脑上安装 Ollama：

1. 访问 ollama.ai
2. 下载对应系统的安装包（macOS / Windows / Linux）
3. 双击安装，一路"下一步"

安装完成后，Ollama 会在后台自动运行。

第二步：安装 OllaMan

接下来安装 OllaMan：

1. 访问 ollaman.com
2. 下载对应系统的安装包
3. 安装并打开 OllaMan

打开 OllaMan 后，它会自动检测本地的 Ollama 服务。如果一切正常，你会看到仪表盘页面。

开始使用：从下载模型到开始对话

场景一：下载第一个模型

刚安装好的 Ollama 还没有任何模型，让我们先下载一个。

1. 点击左侧菜单的「发现」
2. 浏览在线模型库，你会看到各种模型
3. 找一个感兴趣的模型，比如 Llama 3 或 Qwen 2
4. 点击进入模型详情页
5. 选择一个版本（建议新手选 7B 或 8B 大小的版本，对电脑要求较低）
6. 点击「Pull」按钮开始下载

下载过程中，你可以：

• 在下载页面查看实时进度
• 看到下载速度和已完成大小
• 同时下载多个模型

场景二：和 AI 开始对话

模型下载完成后，开始对话只需要两步：

1. 点击左侧菜单的「对话」
2. 在顶部选择刚下载的模型
3. 在底部输入框打字，按回车发送

就是这么简单！

场景三：让 AI 更懂你——创建智能体

用了一段时间后，你可能会发现：每次都要告诉 AI "你是一个编程助手" 或 "请用中文回复" 很麻烦。

这时候，智能体（Agent） 就派上用场了。

智能体是预设好的"AI 角色"，你可以一次设置好：

• 系统提示词（AI 的角色设定）
• 默认模型
• 生成参数（温度、采样参数等）

创建智能体：

1. 进入对话页面
2. 点击左侧边栏的当前智能体卡片
3. 点击「+」按钮
4. 设置名称、图标、系统提示词
5. 保存

比如你可以创建这些智能体：

创建好之后，每次进入对应智能体，AI 就会自动"进入角色"。

进阶技巧：让 AI 更好用

技巧 1：用附件替代复制粘贴

需要 AI 分析一段代码或文档？不用手动复制粘贴了。

直接点击输入框左下角的 📎 附件按钮，选择文件。OllaMan 支持：

• 代码文件：.py, .js, .ts, .java 等
• 文档：.txt, .md, .json 等
• 图片（需要视觉模型）：.png, .jpg 等

技巧 2：开启思考模式

部分模型（如 DeepSeek R1、QwQ 等）支持"思考模式"——AI 会展示它的推理过程。

如果你使用的模型支持此功能，输入框旁会出现一个「思考」开关。开启后：

• AI 回复会分为"思考过程"和"最终答案"两部分
• 思考过程可以折叠/展开
• 适合需要复杂推理的问题

技巧 3：调整生成参数

每次对话右侧有设置面板，可以调整：

调整后仅对当前会话生效，不影响智能体默认设置。

技巧 4：管理多个服务器

如果你有多台电脑（比如一台性能强劲的台式机和一台轻薄本），可以：

1. 在性能强的电脑上运行 Ollama
2. 在任意电脑上用 OllaMan 远程连接

进入「设置 → 服务器」添加远程服务器地址即可。

常见问题解答

Q：我的电脑能跑多大的模型？

简单判断标准：

Q：下载的模型存在哪里？

模型默认存储在 Ollama 的目录中：

• macOS：~/.ollama/models
• Windows：C:\Users\<用户名>\.ollama\models
• Linux：~/.ollama/models

Q：没网也能用吗？

可以！这正是本地大模型的优势：

• 需要网络：下载模型、浏览在线模型库
• 不需要网络：与已下载的模型对话

一旦模型下载到本地，对话完全离线进行。

写在最后

本地大模型不再是极客的专属玩具。

有了 Ollama + OllaMan 这套组合：

• 无需技术背景，也能轻松上手
• 对话数据全部保存在本地
• 没网也能用 AI

如果你一直想试试本地大模型，却被命令行吓退——现在正是时候。

花 5 分钟安装，收获一个永远属于自己的 AI 助手。

---