模型工厂
通过调整提示词和参数创建定制化模型副本
模型工厂 (Model Factory)
模型工厂 是 OllaMan 的一项强大功能,允许用户基于现有的本地模型,通过调整系统提示词(System Prompt)和推理参数,创建定制化的专属模型副本。
功能概览
- 基于现有模型定制:选择通过 Ollama 拉取的任何本地模型作为基础。
- 自定义系统提示词:为模型设定特定的人设、规则或任务指令。
- 参数微调:精确控制模型的创造性与稳定性(Temperature, Top P, Top K)。
- 预设模版:内置常用的提示词模版(编程助手、创意写作、数据分析)。
界面指南
模型工厂界面主要分为左侧配置面板和右侧提示词编辑器。
1. 模型身份 (Model Identity)
- 基础模型 (Base Model):选择一个已安装的本地模型作为基底。注意:云端模型不可选。
- 新模型名称 (New Model Name):为你的定制模型起一个唯一的名称。
2. 参数设置 (Parameters)
通过调整以下参数来控制模型的输出风格:
-
温度 (Temperature): 控制输出的随机性。
- 范围:0.0 - 2.0 (默认 0.7)
- 较低的值使输出更集中、确定。
- 较高的值使输出更随机、更有创意。
-
Top P: 核采样 (Nucleus Sampling)。
- 范围:0.0 - 1.0 (默认 0.9)
- 控制模型仅考虑累积概率达到 P 的 token。
-
Top K:
- 范围:1 - 100 (默认 40)
- 限制模型仅从概率最高的 K 个 token 中选择。
3. 系统提示词编辑器 (System Prompt Editor)
这是定制模型的核心区域。在这里输入指令来定义模型的行为。
- 支持 Markdown:编辑器支持 Markdown 语法高亮。
- 字符统计:实时显示提示词的字符数。
- 快速预设:如果未输入内容,可以直接点击下方的预设卡片快速填充:
- 编程助手:专注于代码编写和解释。
- 创意写作:适合故事创作和头脑风暴。
- 数据分析:专注于逻辑推理和数据处理。
创建流程
- 在左侧面板选择 基础模型。
- 输入 新模型名称。
- (可选) 在右侧编辑器中编写或选择 系统提示词。
- (可选) 调整 推理参数。
- 点击左下角的 创建 (Create) 按钮。
- 等待创建完成,成功后会显示绿色成功提示。
创建完成后,你可以在"本地模型"列表中找到这个新模型,并立即在"对话"功能中使用它。
此外,你可以在"本地模型"页面管理该模型,并将其推送到远程 Ollama 仓库,以便与他人分享或备份。
OllaMan 文档