LLM
Ollama
OpenClaw
Posts
安全

Dify 大语言模型配置#

概述#

在使用大型语言模型节点之前，需要在 系统设置 → 模型供应商 中配置至少一个模型供应商。本文将详细介绍如何在 Dify 中配置和使用各种大语言模型。

模型选择和参数#

配置模型供应商#

步骤：

进入 系统设置
选择 模型供应商
点击 添加供应商
配置 API 密钥
测试连接

支持的模型提供商#

提供商	模型系列	特点
OpenAI	GPT-4o, GPT-4o-mini	强大的推理能力，多模态支持
Anthropic	Claude 3.5 Opus, Sonnet, Haiku	优秀的对话能力，长上下文
Google	Gemini Pro, Ultra	多模态，Google 生态集成
通义千问	Qwen Max, Plus, Turbo	中文优化，性价比高
智谱 AI	GLM-4, GLM-4 Flash	国产模型，适合中文场景
DeepSeek	DeepSeek Chat, Coder	代码能力强，性价比高
本地模型	Ollama, LocalAI, Xinference	隐私安全，无网络依赖

模型选择建议#

场景	推荐模型	原因
复杂推理	GPT-4o, Claude Opus	推理能力最强
代码生成	GPT-4o, DeepSeek Coder	代码理解准确
对话聊天	Claude Sonnet, Qwen Plus	对话自然流畅
成本敏感	GPT-4o-mini, Haiku	价格低廉
隐私要求	本地模型	数据不上传
中文场景	Qwen Max, GLM-4	中文优化更好

LLM 节点配置#

模型选择#

从已配置的任何模型供应商中进行选择。

配置示例：

PRTCL // YAML

1
LLM 节点配置:
2
  model:
3
    provider: "openai"
4
    name: "gpt-4o"
5
    mode: "chat"  # chat, completion

温度参数#

温度控制输出的随机性和创造性：

温度值	效果	适用场景
0.0 - 0.3	确定性输出，一致性强	代码生成、数据分析、精确问答
0.4 - 0.7	平衡输出，适度创造性	日常对话、内容生成、翻译
0.8 - 1.0	高创造性输出	创意写作、头脑风暴、故事生成

配置示例：

PRTCL // YAML

1
LLM 节点配置:
2
  model:
3
    temperature: 0.7

核采样（Top P）#

通过概率限制词汇选择，通常设置在 0.8-1.0。

配置示例：

PRTCL // YAML

1
LLM 节点配置:
2
  model:
3
    top_p: 0.95

频率惩罚#

减少重复内容，范围 -2.0 到 2.0。

配置示例：

PRTCL // YAML

1
LLM 节点配置:
2
  model:
3
    frequency_penalty: 0.5

存在惩罚#

鼓励讨论新话题，范围 -2.0 到 2.0。

配置示例：

PRTCL // YAML

1
LLM 节点配置:
2
  model:
3
    presence_penalty: 0.3

预设选项#

Dify 提供三种预设配置：

预设	温度	Top P	频率惩罚	存在惩罚
精确	0.3	0.95	0.0	0.0
平衡	0.7	0.95	0.3	0.3
创意	1.0	0.95	0.5	0.5

提示词配置#

提示词类型#

聊天模型#

使用消息角色：

系统（System）：定义 AI 的行为和角色
用户（User）：用户的输入
助手（Assistant）：AI 的回复示例

配置示例：

PRTCL // YAML

1
LLM 节点配置:
2
  prompt:
3
    system: "你是一个专业的 {{role}}，专注于 {{expertise}}。"
4
    user: "请处理以下内容：{{input}}"
5
    assistant: "这是一个示例回复。"

完成模型#

使用简单的文本续写。

配置示例：

PRTCL // YAML

1
LLM 节点配置:
2
  prompt:
3
    completion: "以下是一段文本：{{text}}\n\n 请继续："

变量引用#

使用双花括号语法引用工作流变量：

PRTCL // YAML

1
LLM 节点配置:
2
  prompt:
3
    system: "你是 {{User Input/role}}"
4
    user: "处理：{{Previous Node/output}}"

Jinja2 模板支持#

使用 Jinja2 模板进行高级变量处理：

PRTCL // YAML

1
LLM 节点配置:
2
  prompt:
3
    system: |
4
      你是一个 {{role|default(' 助手 ')}}。
5
      {% if language %}
6
      请使用 {{language}} 回答。
7
      {% endif %}

支持的 Jinja2 功能：

变量替换
条件判断
循环
过滤器

上下文变量#

知识库上下文#

将知识库内容注入到 LLM 节点中。

配置示例：

PRTCL // YAML

1
LLM 节点配置:
2
  context:
3
    knowledge_base: "product_docs"
4
    retrieval:
5
      top_k: 5
6
      similarity_threshold: 0.7
7
    variable_name: "context"
8
  prompt:
9
    system: "你是一个客服助手。"
10
    user: |
11
      基于以下上下文回答问题：
12
      {{context}}
13

14
      问题：{{query}}

文件上下文#

处理上传的文件，包括图像和文档。

配置示例：

PRTCL // YAML

1
LLM 节点配置:
2
  context:
3
    files:
4
      variable: "User Input/user_file"
5
      vision:
6
        enabled: true
7
        detail: "high"  # high, low
8
      document:
9
        extract_text: true

变量来源#

变量来源	说明	示例
用户输入	从用户输入节点获取	`{{User Input/text}}`
节点输出	从其他节点的输出获取	`{{Previous Node/output}}`
知识库	从知识库检索获取	`{{context}}`
系统变量	系统提供的变量	`{{sys.workflow_run_id}}`
环境变量	环境配置的变量	`{{env.API_KEY}}`

结构化输出#

配置结构化输出#

强制模型返回特定数据格式（如 JSON）以便程序化使用。

配置方法：

可视化编辑器
JSON Schema
AI 生成

可视化编辑器#

配置示例：

PRTCL // YAML

1
LLM 节点配置:
2
  structured_output:
3
    enabled: true
4
    schema:
5
      type: "object"
6
      properties:
7
        title:
8
          type: "string"
9
          description: "标题"
10
        content:
11
          type: "string"
12
          description: "内容"
13
        tags:
14
          type: "array"
15
          items:
16
            type: "string"
17
          description: "标签列表"
18
      required:
19
        - "title"
20
        - "content"

JSON Schema#

直接粘贴 JSON Schema 定义。

配置示例：

PRTCL // JSON

1
{
2
  "type": "object",
3
  "properties": {
4
    "platform_name": {
5
      "type": "string",
6
      "description": "平台名称"
7
    },
8
    "post_content": {
9
      "type": "string",
10
      "description": "帖子内容"
11
    },
12
    "hashtags": {
13
      "type": "array",
14
      "items": {
15
        "type": "string"
16
      },
17
      "description": "标签列表"
18
    },
19
    "character_count": {
20
      "type": "number",
21
      "description": "字符数"
22
    }
23
  },
24
  "required": ["platform_name", "post_content"]
25
}

AI 生成#

让 AI 自动生成适合的 Schema。

步骤：

点击 AI 生成
描述需要的数据结构
AI 自动生成 Schema
手动调整和优化

记忆和文件处理#

记忆管理#

记忆是节点特定的，不会在不同对话之间持续存在。

配置示例：

PRTCL // YAML

1
LLM 节点配置:
2
  memory:
3
    enabled: true
4
    max_messages: 10
5
    strategy: "recent"  # recent, summary

文件处理#

支持处理多种文件类型：

图像处理：

PRTCL // YAML

1
LLM 节点配置:
2
  files:
3
    vision:
4
      enabled: true
5
      detail: "high"  # 高细节，更准确但使用更多 token
6
      # 或 "low" - 低细节，更快但准确性较低

文档处理：

PRTCL // YAML

1
LLM 节点配置:
2
  files:
3
    document:
4
      extract_text: true
5
      max_pages: 10

自动获取文件：

PRTCL // YAML

1
LLM 节点配置:
2
  files:
3
    variable: "User Input/user_file"  # 自动从用户输入节点获取

流式结果返回#

流式响应#

大型语言模型节点默认支持流式结果返回。

配置示例：

PRTCL // YAML

1
LLM 节点配置:
2
  streaming:
3
    enabled: true
4
    chunk_size: 100

流式事件#

每个文本块都作为 RunStreamChunkEvent 产生，实现实时响应显示。

事件类型：

message：文本块
message_end：消息结束
error：错误信息

不同场景的配置#

创意写作#

PRTCL // YAML

1
LLM 节点配置:
2
  model:
3
    temperature: 0.9
4
    top_p: 0.95
5
    frequency_penalty: 0.5
6
    presence_penalty: 0.3
7
  prompt:
8
    system: "你是一个创意写作专家。"
9
    user: "请创作一个关于 {{topic}} 的故事。"

代码生成#

PRTCL // YAML

1
LLM 节点配置:
2
  model:
3
    temperature: 0.2
4
    top_p: 0.95
5
    frequency_penalty: 0.0
6
    presence_penalty: 0.0
7
  prompt:
8
    system: "你是一个专业的程序员。"
9
    user: "请编写一个 {{language}} 函数来 {{task}}。"
10
  structured_output:
11
    enabled: true
12
    schema:
13
      type: "object"
14
      properties:
15
        code:
16
          type: "string"
17
        explanation:
18
          type: "string"

文档摘要#

PRTCL // YAML

1
LLM 节点配置:
2
  model:
3
    temperature: 0.3
4
    top_p: 0.9
5
    frequency_penalty: 0.1
6
    presence_penalty: 0.1
7
  prompt:
8
    system: "你是一个文档摘要专家。"
9
    user: |
10
      请总结以下文档：
11
      {{context}}
12

13
      摘要要求：
14
      1. 提取关键信息
15
      2. 保持简洁（不超过 500 字）
16
      3. 使用要点列表

问答系统#

PRTCL // YAML

1
LLM 节点配置:
2
  model:
3
    temperature: 0.1
4
    top_p: 0.85
5
    frequency_penalty: 0.0
6
    presence_penalty: 0.0
7
  context:
8
    knowledge_base: "faq"
9
    retrieval:
10
      top_k: 3
11
  prompt:
12
    system: "你是一个客服助手。"
13
    user: |
14
      基于以下信息回答问题：
15
      {{context}}
16

17
      问题：{{query}}
18

19
      如果信息不足，请诚实告知。

性能优化#

Token 优化#

控制上下文长度：

PRTCL // YAML

1
LLM 节点配置:
2
  model:
3
    max_tokens: 2000

使用缓存：

PRTCL // YAML

1
LLM 节点配置:
2
  cache:
3
    enabled: true
4
    ttl: 3600

批处理#

批量处理相似请求：

PRTCL // YAML

1
迭代节点:
2
  parallel_mode: true
3
  max_parallelism: 10

模型选择#

根据任务复杂度选择合适的模型：

PRTCL // YAML

1
路由配置:
2
  rules:
3
    - condition: "task.complexity < 3"
4
      model: "gpt-4o-mini"
5
    - condition: "task.complexity >= 3"
6
      model: "gpt-4o"

故障排查#

连接问题#

症状：无法连接到模型 API

解决方案：

PRTCL // BASH

1
# 测试网络连接
2
curl -I https://api.openai.com
3

4
# 检查 API 密钥
5
echo $OPENAI_API_KEY
6

7
# 测试模型连接
8
openclaw model test <model-id>

认证问题#

症状：401 Unauthorized 错误

解决方案：

PRTCL // BASH

1
# 验证 API 密钥
2
echo $OPENAI_API_KEY
3

4
# 重新设置 API 密钥
5
export OPENAI_API_KEY="new-key"
6

7
# 测试连接
8
openclaw model test <model-id>

限流问题#

症状：429 Too Many Requests 错误

解决方案：

PRTCL // YAML

1
# 降低请求频率
2
rate_limit:
3
  enabled: true
4
  requests_per_minute: 60
5

6
# 使用多个 API 密钥
7
providers:
8
  - name: "openai"
9
    api_keys:
10
      - "${OPENAI_API_KEY_1}"
11
      - "${OPENAI_API_KEY_2}"

资源链接#

OpenAI 文档: https://platform.openai.com/docs
Anthropic 文档: https://docs.anthropic.com
Dify 模型文档: https://docs.dify.ai/zh/use-dify/nodes/llm

最后更新: 2026-03-12 作者: EchoHaoRan

Dify 大语言模型配置#

概述#

模型选择和参数#

配置模型供应商#

支持的模型提供商#

模型选择建议#

LLM 节点配置#

模型选择#

温度参数#

核采样（Top P）#

频率惩罚#

存在惩罚#

预设选项#

提示词配置#

提示词类型#

聊天模型#

完成模型#

变量引用#

Jinja2 模板支持#

上下文变量#

知识库上下文#

文件上下文#

变量来源#

结构化输出#

配置结构化输出#

可视化编辑器#

JSON Schema#

AI 生成#

记忆和文件处理#

记忆管理#

文件处理#

流式结果返回#

流式响应#

流式事件#

不同场景的配置#

创意写作#

代码生成#

文档摘要#

问答系统#

性能优化#

Token 优化#

批处理#

模型选择#

故障排查#

连接问题#

认证问题#

限流问题#

资源链接#

Dify大语言模型配置

大语言模型LLM技术完全指南

CoPaw本地模型配置

OpenClaw模型配置完整指南

Dify介绍和核心概念

评论