Dify配置本地模型防崩溃记录

Dify配置本地模型防崩溃记录文字配图
作者:Dify配置本地模型防崩溃记录

因工作关系需要使用到本地部署dify+LMStudio进行数据分析,最新发布的qwen3.5-27b虽然勉强能塞进3090,但是dify跑循环任务经常跑着跑着就崩溃退出 这两天发现LMStudio自带模型即时加载功能,即时模型崩溃卸载也能够自动加载回去 如p2在lmstudio的开发者窗口下本地服务配置中打开配置,然后如p3在dify的模型凭据配置中填写API endpoint模型名称即可。 #本地部署 #dify #工作流 #数据分析 #ai #qwen #lmstudio