%20(1).png)
ComfyUI GGUF 模型加载器插件教程
1. 插件简介
这是一个帮助你在 ComfyUI 中加载和使用 GGUF 格式模型的小助手。想象一下，就像是一个特殊的翻译官，能让 ComfyUI 认识并使用一种新的语言模型格式。
GitHub 地址：https://github.com/calcuis/gguf
2. 安装方法
就像安装手机应用一样简单，只需要几个步骤：
- 打开你的 ComfyUI 文件夹
- 找到
custom_nodes文件夹（如果没有就新建一个） - 在里面执行这行命令：
git clone https://github.com/calcuis/gguf
3. 节点详解
3.1 GGUF 模型加载器节点 (GGUFLoader)
这就像是一个智能翻译机，帮你把 GGUF 格式的模型文件转换成 ComfyUI 能听懂的语言。
参数详解：
| 参数名(UI显示) | 参数名(代码) | 参数值类型 | 建议值 | 通俗解释 | 专业解释 | 使用示例 |
|---|---|---|---|---|---|---|
| 模型路径 | model_path | 字符串 | "models/llama-2-7b.Q4_K_M.gguf" | 就像告诉电脑去哪个抽屉里找模型文件 | 指定GGUF模型文件的存储位置 | 填入你下载的模型文件路径 |
| 系统提示 | system_prompt | 字符串 | "你是一个友善的助手" | 相当于给AI设定性格和行为准则 | 用于设定模型的基础行为模式 | 可以写"你现在是一位厨师" |
| 最大长度 | max_length | 整数 | 2048 | 控制AI回答的最大字数 | 限制输出序列的最大长度 | 一般2048就够用了 |
| 温度 | temperature | 小数 | 0.7 | 像调节空调温度一样，控制AI回答的创意程度 | 控制输出的随机性 | 0.7比较均衡，1.0更有创意 |
3.2 GGUF 文本生成节点 (GGUFTextGenerator)
就像是一个写作助手，你给它一个开头，它就能接着写下去。
参数详解：
| 参数名(UI显示) | 参数名(代码) | 参数值类型 | 建议值 | 通俗解释 | 专业解释 | 使用示例 |
|---|---|---|---|---|---|---|
| 输入文本 | input_text | 字符串 | "今天天气真好" | 你想让AI接着说的话 | 用作生成的起始提示 | "请帮我写一首诗" |
| 生成数量 | num_samples | 整数 | 1 | 想要AI给出几个不同的回答 | 指定生成样本的数量 | 一般设1就够了 |
4. 使用技巧和建议
- 把模型文件放在 ComfyUI 的 models 文件夹里，方便管理
- 系统提示要写得具体一些，这样AI的回答会更符合你的期望
- 温度值调低一点（比如0.3）会让回答更稳定，调高一点（比如0.9）会更有创意
5. 常见问题解答
Q：为什么模型加载很慢？ A：这就像打开大型游戏一样，需要一定时间，耐心等待就好。
Q：为什么有时候会报错？ A：检查一下模型文件路径是否正确，就像确认手机号码一样，一个字符写错都不行。
Q：生成的内容质量不高怎么办？ A：可以试着调整系统提示和温度值，就像调节收音机，找到最适合的频道。
6. 补充说明
这个插件特别适合想要在 ComfyUI 中使用大语言模型的朋友。它就像是给 ComfyUI 装了一个新的翻译器，让它能听懂更多种类的AI语言。记得定期查看GitHub页面，可能会有新的功能更新哦！