LogoOllaMan 文档

多服务器管理

连接和切换多个 Ollama 服务器

概述

OllaMan 的多服务器功能允许你连接到多个 Ollama 实例,无论它们是在本地机器、远程服务器还是云实例上。这对于团队、管理不同的硬件设置或访问各种机器上的模型特别有用。


添加服务器

打开设置

点击侧边栏中的设置图标(左下角)。

设置导航

导航到服务器

在设置菜单中,点击 Servers(服务器)选项卡。

点击添加服务器

点击服务器页面顶部的 "Add Server"(添加服务器)按钮。

输入服务器详情

填写服务器信息:

Server Name(服务器名称):用于识别此服务器的友好名称(例如 "办公室服务器"、"家庭 GPU"、"云实例")

Server URL(服务器 URL):完整的 Ollama 服务器地址

  • 格式:http://hostname:port
  • 示例:
    • http://192.168.1.100:11434(本地网络)
    • http://server.example.com(域名)
    • https://ollama.mycompany.com(HTTPS)

Basic Auth(认证)(可选):

  • Username(用户名):如果服务器需要基本认证
  • Password(密码):相应的密码

测试连接

点击 "Test Connection"(测试连接)按钮以验证服务器是否可达。

你会看到:

  • Connected(已连接):绿色指示器,显示服务器版本
  • Connection Failed(连接失败):红色指示器,显示错误详情

保存服务器

如果连接测试成功,点击 "Save"(保存)将服务器添加到列表中。


在服务器之间切换

找到服务器选择器

侧边栏顶部,你会看到一个显示当前活跃服务器的下拉菜单。

服务器选择器

打开下拉菜单

点击服务器选择器查看所有可用服务器。

选择服务器

点击任何服务器名称以切换到它。

应用程序将:

  1. 断开当前服务器的连接
  2. 连接到选定的服务器
  3. 重新加载模型列表
  4. 更新所有统计数据

验证连接

服务器选择器将显示:

  • 服务器名称
  • 连接状态(绿点 = 已连接)
  • 服务器版本(悬停时显示)

自动刷新

切换服务器时,OllaMan 会自动刷新:

  • 本地模型列表
  • 运行中的模型
  • 仪表盘统计数据
  • 可用资源

管理服务器

编辑服务器

打开服务器设置

导航到 Settings(设置)→ Servers(服务器)

找到服务器

在服务器列表中找到你想编辑的服务器。

点击编辑

点击服务器旁边的 Edit(编辑)按钮(铅笔图标)。

修改详情

更改任何服务器详情:

  • 服务器名称
  • URL
  • 认证凭据

测试并保存

点击 "Test Connection"(测试连接)验证更改,然后点击 "Save"(保存)。

删除服务器

打开服务器设置

导航到 Settings(设置)→ Servers(服务器)

找到服务器

找到你想删除的服务器。

点击删除

点击服务器旁边的 Delete(删除)按钮(垃圾桶图标)。

确认删除

确认你想删除此服务器配置。

警告

删除服务器仅删除连接配置。实际服务器上的模型和数据保持不变。


服务器连接状态

已连接

指示器:绿点

含义

  • 成功连接到服务器
  • 可以列出和管理模型
  • 可以开始聊天
  • 实时统计数据可用

已断开

指示器:红点

含义

  • 无法访问服务器
  • 模型列表不可用
  • 无法下载或聊天

常见原因

  • 服务器离线
  • 网络问题
  • URL 不正确
  • 防火墙阻止连接

测试中

指示器:黄色/橙色点(脉冲)

含义

  • 正在检查连接
  • 测量延迟
  • 验证服务器版本

使用场景

家庭和工作设置

场景:家里有不同的模型(强大的 GPU)和办公室(仅 CPU)

解决方案

  • 添加 "家庭服务器" 指向 http://192.168.1.50:11434
  • 添加 "办公室服务器" 指向本地 http://localhost:11434
  • 根据位置切换

团队协作

场景:开发团队共享一个强大的远程服务器

解决方案

  • 设置带有 GPU 的云实例
  • 配置认证
  • 所有团队成员添加服务器
  • 每个人访问相同的模型

多云部署

场景:模型分布在不同的云提供商上

解决方案

  • 添加 "AWS 服务器"、"Azure 服务器"、"GCP 服务器"
  • 根据以下情况切换:
    • 成本优化
    • 地理位置
    • 模型可用性
    • 性能要求

开发和生产

场景:在部署前本地测试模型

解决方案

  • "开发" 服务器用于实验
  • "生产" 服务器用于稳定模型
  • 轻松切换用于测试和部署

服务器健康监控

连接延迟

连接后,OllaMan 显示服务器延迟:

  • <50ms:优秀(本地网络)
  • 50-150ms:良好(附近服务器)
  • 150-300ms:可接受(远程服务器)
  • >300ms:慢(可能影响用户体验)

服务器版本

服务器页面显示每个服务器的 Ollama 版本:

  • 帮助识别过时的服务器
  • 确保兼容性
  • 对故障排除有用

自动检查

OllaMan 自动检查服务器健康:

  • 每次打开设置 → 服务器时
  • 切换服务器时
  • 活跃服务器每 5 分钟一次(后台)

故障排除


安全最佳实践

保护远程服务器

网络安全

  • 不要直接将 Ollama 暴露在互联网上
  • 使用 VPN 或 SSH 隧道进行远程访问
  • 配置防火墙规则限制访问
  • 尽可能使用 HTTPS

认证

  • 对面向互联网的服务器始终启用认证
  • 使用强密码(20+ 字符)
  • 定期轮换凭据
  • 不要在团队成员之间共享凭据

访问控制

  • 限制谁可以访问每个服务器
  • 监控连接日志
  • 删除未使用的服务器配置
  • 保持 Ollama 更新到最新版本

下一步