Python 与 AI 开发教程
全部分类

大模型基础

接口调用、token、function calling、结构化输出和 embedding。

开始学习

7 章 · 14 组对比 · 约 1.3 小时

调用模型

  1. 1调用大模型接口大模型开发从调用接口开始：发一组消息，收一段回答。这一章从第一次调用讲起，再处理多轮对话、流式输出和错误。19 分钟
  2. 2token 和上下文窗口大模型按 token 计费，也按 token 限制输入长度。搞清楚 token 怎么算，就知道费用从哪来，也知道对话变长时该怎么办。8 分钟
  3. 3采样参数同样的问题问两次，答案可能不一样。这一章看模型怎么选下一个 token，以及 temperature、top_p 这些参数到底在调什么。6 分钟

模型能力

  1. 4Function Calling模型不能联网，也不能查数据库，但它能说出「我想调用哪个函数」。真正执行的是你的代码，这是所有 Agent 的基础。17 分钟
  2. 5结构化输出程序要的是字段，不是一段话。让模型按 JSON Schema 输出，再用 Pydantic 校验，大模型的回答就能接进普通的业务代码。13 分钟
  3. 6提示缓存Agent 每一轮都把同样的历史再发一遍，提示缓存让这部分内容便宜到十分之一甚至更低。用好它，主要看消息怎么排列。6 分钟
  4. 7Embedding 向量把一段文字变成一串数字，意思相近的文字数字也相近。语义搜索、RAG 和长期记忆都建立在这一步上。7 分钟