LogoOllaMan 文档

模型工厂

通过调整提示词和参数创建定制化模型副本

模型工厂 (Model Factory)

模型工厂 是 OllaMan 的一项强大功能,允许用户基于现有的本地模型,通过调整系统提示词(System Prompt)和推理参数,创建定制化的专属模型副本。

功能概览

  • 基于现有模型定制:选择通过 Ollama 拉取的任何本地模型作为基础。
  • 自定义系统提示词:为模型设定特定的人设、规则或任务指令。
  • 参数微调:精确控制模型的创造性与稳定性(Temperature, Top P, Top K)。
  • 预设模版:内置常用的提示词模版(编程助手、创意写作、数据分析)。

界面指南

模型工厂界面主要分为左侧配置面板和右侧提示词编辑器。

1. 模型身份 (Model Identity)

  • 基础模型 (Base Model):选择一个已安装的本地模型作为基底。注意:云端模型不可选。
  • 新模型名称 (New Model Name):为你的定制模型起一个唯一的名称。

2. 参数设置 (Parameters)

通过调整以下参数来控制模型的输出风格:

  • 温度 (Temperature): 控制输出的随机性。

    • 范围:0.0 - 2.0 (默认 0.7)
    • 较低的值使输出更集中、确定。
    • 较高的值使输出更随机、更有创意。
  • Top P: 核采样 (Nucleus Sampling)。

    • 范围:0.0 - 1.0 (默认 0.9)
    • 控制模型仅考虑累积概率达到 P 的 token。
  • Top K:

    • 范围:1 - 100 (默认 40)
    • 限制模型仅从概率最高的 K 个 token 中选择。

3. 系统提示词编辑器 (System Prompt Editor)

这是定制模型的核心区域。在这里输入指令来定义模型的行为。

  • 支持 Markdown:编辑器支持 Markdown 语法高亮。
  • 字符统计:实时显示提示词的字符数。
  • 快速预设:如果未输入内容,可以直接点击下方的预设卡片快速填充:
    • 编程助手:专注于代码编写和解释。
    • 创意写作:适合故事创作和头脑风暴。
    • 数据分析:专注于逻辑推理和数据处理。

创建流程

  1. 在左侧面板选择 基础模型
  2. 输入 新模型名称
  3. (可选) 在右侧编辑器中编写或选择 系统提示词
  4. (可选) 调整 推理参数
  5. 点击左下角的 创建 (Create) 按钮。
  6. 等待创建完成,成功后会显示绿色成功提示。

创建完成后,你可以在"本地模型"列表中找到这个新模型,并立即在"对话"功能中使用它。

此外,你可以在"本地模型"页面管理该模型,并将其推送到远程 Ollama 仓库,以便与他人分享或备份。