实验 5 大模型 API、流式 Token 与 Agent

没有单独作业,由实验 7 集成。

接入大模型接口,解析 SSE 增量输出,再按模型返回的意图调用工具。

下载指导书

目标

  • 用 stream 模式调用大模型,逐段解析 SSE 中的增量 Token。
  • 从模型输出中稳定提取结构化 JSON。
  • 按意图把请求分发给工具,并对比阻塞返回和流式返回的首字延迟。

阶段

  1. P1 SSE 流式解析和打字机输出。
  2. P2 Prompt 模板与 JSON 清洗。
  3. P3 Agent 意图识别和 Tool Calling。

技术栈例程

本实验主要调用外部接口,不对应单独例程。