插件介绍
这个插件是为 ComfyUI 设计的自定义节点集合,旨在便捷地与语言模型(如 Qwen2.5 和 DeepSeek)协同工作。插件中包含以下自定义节点:
节点说明
QwenLoader
用于加载语言模型。已测试支持以下模型:
- Qwen2.5-3B
- Qwen2.5-7B
- DeepSeek-R1-Distill-Qwen-7B
QwenSampler
用于执行文本生成任务。
建议在使用 DeepSeek 的蒸馏模型时设置较高的 max_tokens
(最大生成长度)。
如果遇到显存不足问题,可以关闭 keep_model_loaded
选项,以便在模型未使用时将其转移到 CPU 释放显存。
DeepSeekResponseParser
用于解析生成结果中的 <think>
和 </think>
标签,并将其内容分离出来。
这个插件能够帮助用户在 ComfyUI 中更方便地加载和使用大语言模型进行文本生成和解析任务。
安装方法
插件解压后(去掉-main)放到ComfyUI根目录的custom_nodes路径下。在文件夹上面输入cmd打开脚本编辑器并输入以下脚本(路径替换为你的ComfyUI Python环境路径):
F:\ComfyUI\python_embeded\python.exe -s -m pip install -r requirements.txt
提示词增强模型:千问Flux提示词扩写模型Qwen2.5-7B-Instruct-Uncensored-Flux-数字折叠
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END
暂无评论内容