实验 5 大模型 API、流式 Token 与 Agent
没有单独作业,由实验 7 集成。
接入大模型接口,解析 SSE 增量输出,再按模型返回的意图调用工具。
下载指导书目标
- 用 stream 模式调用大模型,逐段解析 SSE 中的增量 Token。
- 从模型输出中稳定提取结构化 JSON。
- 按意图把请求分发给工具,并对比阻塞返回和流式返回的首字延迟。
阶段
- P1 SSE 流式解析和打字机输出。
- P2 Prompt 模板与 JSON 清洗。
- P3 Agent 意图识别和 Tool Calling。
相关知识点
技术栈例程
本实验主要调用外部接口,不对应单独例程。