LLM-API基础调用以及ReAct

时长：约 60 分钟

学习目标

掌握 temperature、top_p、max_tokens、system prompt 四个关键参数的作用与取舍。
理解低代码平台里「聊天助手、Agent、Chatflow、工作流」的区别。
能用自己的话说清 ReAct 的 Thought → Action → Observation 循环。
能对比 ReAct 与传统一次性问答在知识、透明度和任务范围上的差异。

一、四个关键参数：给模型调“性格”

关键参数详解

参数	取值范围	作用	典型建议
`temperature`	0–2	控制随机性。越低越确定、保守；越高越发散、有创意	事实问答用低值，头脑风暴用高值
`top_p`	0–1	核采样，只从累计概率达到阈值 p 的候选词中选	通常与 temperature 二选一调节
`max_tokens`	正整数	限制单次输出的最大长度	按业务需要的回答长度设置，兼顾成本与响应速度
`system prompt`	文本	设定角色、语气、边界和行为准则	把“你是谁、做什么、不做什么”写清楚

一个实用的调参顺序是：

先用 system prompt 定角色和边界。
事实类任务把 temperature 调到较低值。
用 max_tokens 控制回答长度和成本。
只有确实需要更强多样性时，再动 top_p。

二、低代码平台的应用形态

课程在 Dify 中演示了多种应用类型，理解它们的差别，比记住按钮位置更重要。

形态	适合什么	关键特征
聊天助手	简单多轮对话	配置少，围绕提示词和模型
Agent	需要自主规划、调用工具	模型自己决定下一步做什么
Chatflow	有记忆的复杂多轮对话	用可视化节点编排流程
工作流	单轮自动化任务	强调稳定的输入 → 处理 → 输出

Dify 应用类型

课程还演示了在 Coze 中创建智能体、添加插件、配置人设与开场白、调试对话的过程。低代码平台的价值在于把「模型、提示词、知识库、插件、工作流」可视化组合起来，让开发者把精力放在业务逻辑上。

三、ReAct 是什么

ReAct = Reasoning（推理）+ Acting（行动）。它不是让模型一次性给出答案，而是让模型循环执行：

Thought（我现在要解决什么？）
   ↓
Action（调用哪个工具？参数是什么？）
   ↓
Observation（工具返回了什么？）
   ↓
Thought（根据新信息，下一步做什么？）
   ↓
……直到可以给出最终答案

ReAct 的核心循环

三个角色的分工：

Thought：拆解目标、判断缺什么信息、决定下一步。
Action：选择工具并生成可执行的参数。
Observation：读取工具的真实返回，把它转成下一轮推理的依据。

四、ReAct 与传统对话的区别

ReAct 与传统对话的区别

维度	传统对话	ReAct
执行方式	一次生成，缺少中间验证	多步交替，边做边调整
外部知识	只依赖训练参数，容易过时或幻觉	可实时检索、调用 API、查数据库
决策可见性	黑盒，出错难定位	Thought/Action/Observation 可追踪
任务范围	简单问答为主	可拆解复杂目标，完成多步任务

ReAct 的核心价值是让智能体从“被动回答”走向“主动执行”。但代价是链路更长、调用次数更多，必须配套日志、超时、重试和人工确认机制。

五、ReAct 在低代码平台中的呈现

ReAct 在低代码平台中的呈现

Dify、Coze 等平台会把每一轮的 Thought、Action、Observation 展示在调试面板里。这样可以直接看到：

模型为什么选了某个工具；
参数是从哪句话里提取的；
工具返回后模型有没有正确理解；
失败发生在推理、工具调用还是结果整合。

调试时不要只看最终回答，要沿着这条轨迹逐轮检查。

六、实操：搭一个垂直场景智能体

课程用“财会人员的 Python 代码助手”做示例，流程可以抽象为：

明确目标用户和任务边界。
写人设与回复规则，规定输出格式。
配置开场白和前置问题，减少用户输入歧义。
按需添加插件、知识库或工作流。
在预览区用真实问题测试，再根据轨迹调提示词和工具。

Coze 智能体编排界面

七、常见坑

同时大幅调整 temperature 和 top_p，导致结果不可复现，无法判断是谁的影响。
把 system prompt 写成空泛的“你很聪明”，没有角色、边界和输出格式。
以为 Agent 一定会自动规划；工具描述不清、参数没有约束时，它同样会乱调。
只看最终答案，不看 ReAct 轨迹，导致同一个错误反复出现。
让智能体直接执行高风险操作，却没有人工确认和权限限制。

八、自测题

temperature 和 top_p 都在控制随机性，为什么通常建议只重点调一个？
max_tokens 限制的是输入还是输出？它对成本有什么影响？
Chatflow 与工作流的主要差别是什么？
用一句话解释 ReAct 的 Thought → Action → Observation 循环。
ReAct 相比传统对话，最大的收益和最大的工程代价分别是什么？

答案提示：1. 两者作用重叠，同时大幅调整难以归因；2. 输出，输出越长成本通常越高；3. Chatflow 面向有记忆的复杂多轮对话，工作流面向单轮自动化；4. 模型边推理边调工具，根据真实反馈调整下一步；5. 收益是实时知识与多步任务能力，代价是链路长、成本和调试复杂度上升。

本节小结

这一节把“会调 API”推进到“会设计智能体行为”：用参数控制模型的性格和边界，用低代码平台把模型、知识库、插件和流程组合起来，再用 ReAct 让模型在多步任务中主动调用工具、读取反馈并修正行动。下一节会在这个循环里加入 RAG，让智能体能够查企业自己的知识。