{ "metadata": { "id": "appendixD", "title": "附录D：术语表", "volume": "vol6", "volume_title": "附录", "word_count": 17072, "difficulty": "beginner", "prerequisites": [], "key_concepts": [ "使用说明", "A", "A/B Testing（A/B测试）", "Absorbing State（吸收状态）", "Action Space（动作空间）", "Active Learning（主动学习）", "Agent（智能体）", "Agent Architecture（Agent架构）", "Agentic Workflow（Agent工作流）", "Alignment（对齐）", "Anthropic", "Auto-regressive Model（自回归模型）", "Autonomous Agent（自主Agent）", "B", "Batch Processing（批处理）" ], "learning_objectives": [], "estimated_tokens": 10243, "source_file": "vol6/appendixD_术语表.md" }, "overview": "", "sections": [ { "id": "使用说明", "title": "使用说明", "level": 2, "content": "- 每个术语包含：**英文名称**、**中文释义**、**简要解释**、**相关术语**\n- 英文术语按字母顺序排列\n- 中文拼音索引用于快速定位\n- 🔖 标记表示该术语在本书中首次出现的章节\n\n---", "subsections": [] }, { "id": "A", "title": "A", "level": 2, "content": "", "subsections": [ { "id": "A/B Testing（A/B测试）", "title": "A/B Testing（A/B测试）", "content": "对照实验方法，将流量随机分配到两个或多个版本以比较效果。在Agent开发中常用于比较不同prompt或模型版本的效果。\n- **相关术语**：Evaluation, Red Teaming\n- **参见**：卷四 第12章" }, { "id": "Absorbing State（吸收状态", "title": "Absorbing State（吸收状态）", "content": "在马尔可夫决策过程（MDP）中，一旦到达就不会离开的状态。在Agent规划中，吸收状态通常代表任务的完成或失败。\n- **相关术语**：MDP, Planning" }, { "id": "Action Space（动作空间）", "title": "Action Space（动作空间）", "content": "Agent可以执行的所有动作的集合。在LLM Agent中，动作空间通常包括文本生成、工具调用、环境交互等。\n- **相关术语**：State Space, Policy, MDP" }, { "id": "Active Learning（主动学习", "title": "Active Learning（主动学习）", "content": "机器学习范式，模型主动选择最有价值的样本进行标注。在Agent中可用于优先选择需要人类反馈的案例。\n- **相关术语**：RLHF, Human-in-the-Loop" }, { "id": "Agent（智能体）", "title": "Agent（智能体）", "content": "能够感知环境、做出决策并执行动作以实现目标的自主系统。本书的核心概念。\n- **相关术语**：Autonomous Agent, Multi-Agent System\n- **参见**：卷一 第1章" }, { "id": "Agent Architecture（A", "title": "Agent Architecture（Agent架构）", "content": "Agent系统的整体设计方案，定义了感知、推理、规划、执行等组件的组织方式和交互模式。常见架构包括ReAct、Plan-and-Execute、Reflexion等。\n- **相关术语**：ReAct, Plan-and-Execute, Cognitive Architecture\n- **参见**：卷二 第3章" }, { "id": "Agentic Workflow（Age", "title": "Agentic Workflow（Agent工作流）", "content": "由Agent自主执行的多步骤流程，可能包含工具调用、条件分支、循环等复杂逻辑。\n- **相关术语**：Workflow, DAG, Pipeline\n- **参见**：卷三 第6章" }, { "id": "Alignment（对齐）", "title": "Alignment（对齐）", "content": "使AI系统的行为与人类价值观和意图一致的技术和过程。包括RLHF、Constitutional AI等方法。\n- **相关术语**：RLHF, Constitutional AI, Safety, Guardrails\n- **参见**：卷五 第14章" }, { "id": "Anthropic", "title": "Anthropic", "content": "AI安全公司，创建了Claude系列模型和Constitutional AI方法。\n- **相关术语**：Claude, Constitutional AI, RLHF" }, { "id": "Auto-regressive Mode", "title": "Auto-regressive Model（自回归模型）", "content": "一种生成模型，每次生成一个token，并将之前生成的所有token作为上下文。GPT系列和Claude都是自回归模型。\n- **相关术语**：GPT, Claude, Token, Next-token Prediction" }, { "id": "Autonomous Agent（自主A", "title": "Autonomous Agent（自主Agent）", "content": "能够在最小人工干预下持续运作的Agent系统。与简单的\"一次请求-一次响应\"模式不同，自主Agent可以持续感知、决策和行动。\n- **相关术语**：Agent, Multi-Agent System\n\n---" } ] }, { "id": "B", "title": "B", "level": 2, "content": "", "subsections": [ { "id": "Batch Processing（批处理", "title": "Batch Processing（批处理）", "content": "将多个请求合并为一个批次统一处理，以提高吞吐量和效率。在LLM推理中，批处理可以显著提升GPU利用率。\n- **相关术语**：Throughput, Inference Optimization" }, { "id": "Beam Search（束搜索）", "title": "Beam Search（束搜索）", "content": "一种解码策略，在每个步骤保留最有可能的k个候选序列，而不是只保留最好的一个。在Agent中较少使用，因为Agent通常使用采样（temperature > 0）以获得多样性。\n- **相关术语**：Decoding Strategy, Sampling, Temperature" }, { "id": "Blackboard Architect", "title": "Blackboard Architecture（黑板架构）", "content": "一种多Agent协作模式，所有Agent通过共享的\"黑板\"（共享工作空间）进行通信和协作。\n- **相关术语**：Multi-Agent System, Shared Memory" }, { "id": "Boltzmann Distributi", "title": "Boltzmann Distribution（玻尔兹曼分布）", "content": "在温度参数控制下的概率分布。LLM的采样温度本质上就是玻尔兹曼分布中的温度参数。\n- **相关术语**：Temperature, Sampling, Top-p" }, { "id": "Budget Token（预算Token", "title": "Budget Token（预算Token）", "content": "在扩展思考（如Claude的Extended Thinking）中，分配给模型进行内部推理的最大token数量。\n- **相关术语**：Extended Thinking, Chain-of-Thought, Token\n- **参见**：卷二 第4章" }, { "id": "Byte-Pair Encoding (", "title": "Byte-Pair Encoding (BPE)（字节对编码）", "content": "一种子词分词方法，通过迭代合并最频繁出现的字符对来构建词表。OpenAI的GPT系列使用BPE。\n- **相关术语**：Tokenization, Token, Vocabulary\n\n---" } ] }, { "id": "C", "title": "C", "level": 2, "content": "", "subsections": [ { "id": "Chain-of-Thought (Co", "title": "Chain-of-Thought (CoT)（思维链）", "content": "一种prompt技术，要求模型在给出最终答案之前展示其推理过程。研究表明CoT可以显著提升模型在复杂推理任务上的表现。\n- **相关术语**：Zero-shot CoT, Few-shot CoT, Tree-of-Thought\n- **参见**：卷二 第4章" }, { "id": "Chunking（分块）", "title": "Chunking（分块）", "content": "将长文档分割成较小的片段（chunks），以便进行向量化存储和检索。分块策略直接影响RAG系统的检索质量。\n- **相关术语**：RAG, Embedding, Retrieval, Splitting\n- **参见**：卷三 第7章" }, { "id": "Claude", "title": "Claude", "content": "Anthropic公司开发的大语言模型系列，包括Claude Opus、Sonnet和Haiku等版本。\n- **相关术语**：Anthropic, Constitutional AI" }, { "id": "Cognitive Architectu", "title": "Cognitive Architecture（认知架构）", "content": "对Agent内部信息处理流程的抽象建模，类比人类认知系统的感知、记忆、推理、决策过程。\n- **相关术语**：Agent Architecture, Memory, Planning" }, { "id": "Completion（补全）", "title": "Completion（补全）", "content": "LLM的基本功能之一，给定一段文本前缀，模型生成后续文本。\n- **相关术语**：Prompt, Generation, Next-token Prediction" }, { "id": "Constitutional AI (C", "title": "Constitutional AI (CAI)（宪法AI）", "content": "Anthropic提出的AI对齐方法，让AI根据一组预定义的原则（\"宪法\"）来评判和修正自己的行为。\n- **相关术语**：Alignment, RLHF, Safety, Anthropic" }, { "id": "Context Window（上下文窗口", "title": "Context Window（上下文窗口）", "content": "LLM在一次推理中能处理的最大token数量。上下文窗口决定了模型能\"看到\"多少输入信息。\n- **相关术语**：Token, Context Length, Long Context\n- **参见**：卷一 第2章" }, { "id": "Conversation History", "title": "Conversation History（对话历史）", "content": "在多轮对话中保存的所有之前轮次的对话记录。对话历史的管理（截断、摘要、压缩）是Agent系统的重要挑战。\n- **相关术语**：Memory, Session, Context Window" }, { "id": "Cost Token（成本Token）", "title": "Cost Token（成本Token）", "content": "衡量LLM API使用费用的单位，通常按输入token和输出token分别计价。\n- **相关术语**：Token, API Pricing" }, { "id": "CrewAI", "title": "CrewAI", "content": "一个角色驱动的多Agent协作框架，Agent通过角色定义和任务分配来协作完成复杂任务。\n- **相关术语**：Multi-Agent System, AutoGen, Agent Framework\n- **参见**：附录A\n\n---" } ] }, { "id": "D", "title": "D", "level": 2, "content": "", "subsections": [ { "id": "DAG (Directed Acycli", "title": "DAG (Directed Acyclic Graph)（有向无环图）", "content": "一种数据结构，节点通过有向边连接且不存在环路。在Agent工作流中，DAG常用于表示步骤之间的依赖关系。\n- **相关术语**：Workflow, Graph, LangGraph\n- **参见**：卷三 第6章" }, { "id": "Decoding Strategy（解码", "title": "Decoding Strategy（解码策略）", "content": "LLM从概率分布中选择最终输出token的方法。常见策略包括贪心搜索、采样、束搜索、Top-k、Top-p等。\n- **相关术语**：Sampling, Temperature, Top-k, Top-p, Beam Search" }, { "id": "Deduplication（去重）", "title": "Deduplication（去重）", "content": "从检索结果或知识库中移除重复内容的过程。对提升RAG系统的信息密度很重要。\n- **相关术语**：RAG, Retrieval, Chunking" }, { "id": "Deep Learning（深度学习）", "title": "Deep Learning（深度学习）", "content": "基于多层神经网络的机器学习方法。现代LLM和Agent系统都建立在深度学习技术之上。\n- **相关术语**：Neural Network, Transformer, LLM" }, { "id": "Dependency Injection", "title": "Dependency Injection（依赖注入）", "content": "一种软件设计模式，将组件的依赖关系通过外部注入而非内部创建。在Agent框架中常用于管理LLM Provider、工具、存储等组件。\n- **相关术语**：Inversion of Control, Plugin Architecture" }, { "id": "Distillation（蒸馏）", "title": "Distillation（蒸馏）", "content": "将大型模型的知识转移到小型模型的技术。常用于部署场景，以较小的模型实现接近大模型的效果。\n- **相关术语**：Quantization, Pruning, Model Compression\n- **参见**：卷五 第16章" }, { "id": "Docker", "title": "Docker", "content": "容器化平台，将应用及其依赖打包为可移植的容器镜像。Agent应用的标准化部署方式。\n- **相关术语**：Container, Kubernetes, Deployment\n- **参见**：附录C\n\n---" } ] }, { "id": "E", "title": "E", "level": 2, "content": "", "subsections": [ { "id": "Embedding（嵌入/向量表示）", "title": "Embedding（嵌入/向量表示）", "content": "将文本、图像等数据转换为稠密数值向量的过程。嵌入向量捕获了数据的语义信息，是RAG系统的核心组件。\n- **相关术语**：Vector, Dense Representation, Semantic Search, RAG\n- **参见**：卷三 第7章" }, { "id": "Emergent Ability（涌现能", "title": "Emergent Ability（涌现能力）", "content": "当模型规模达到一定阈值后，突然出现的新能力。例如，大型LLM展现出的推理、代码生成、数学计算等能力在小模型中不存在。\n- **相关术语**：Scaling Law, Foundation Model" }, { "id": "Evaluation（评估）", "title": "Evaluation（评估）", "content": "衡量Agent系统性能和质量的系统性方法。包括定量指标（准确率、延迟、成本）和定性评估（用户体验、安全性）。\n- **相关术语**：Benchmark, Metrics, Red Teaming\n- **参见**：卷四 第12章" }, { "id": "Extended Thinking（扩展", "title": "Extended Thinking（扩展思考）", "content": "Anthropic Claude模型的一种推理模式，模型在给出最终答案前进行更深入的内部推理，适合复杂推理任务。\n- **相关术语**：Chain-of-Thought, Budget Token, Claude\n\n---" } ] }, { "id": "F", "title": "F", "level": 2, "content": "", "subsections": [ { "id": "Few-shot Learning（少样", "title": "Few-shot Learning（少样本学习）", "content": "在prompt中提供少量示例来引导模型理解任务格式和期望输出。Few-shot可以显著提升模型在特定任务上的表现。\n- **相关术语**：Zero-shot, In-context Learning, Prompt Engineering\n- **参见**：卷二 第4章" }, { "id": "Fine-tuning（微调）", "title": "Fine-tuning（微调）", "content": "在预训练模型的基础上，使用特定任务的数据进行额外训练以适应目标任务的技术。\n- **相关术语**：Pre-training, Transfer Learning, LoRA, RLHF" }, { "id": "Foundation Model（基础模", "title": "Foundation Model（基础模型）", "content": "在大规模数据上预训练的大型模型，可以作为多种下游任务的基础。GPT、Claude、Llama等都是基础模型。\n- **相关术语**：Pre-training, LLM, Transfer Learning, Emergent Ability" }, { "id": "Function Calling（函数调", "title": "Function Calling（函数调用）", "content": "LLM根据用户请求和可用工具的描述，输出结构化的函数调用请求。也称为Tool Use。\n- **相关术语**：Tool Use, Tool, Agent\n\n---" } ] }, { "id": "G", "title": "G", "level": 2, "content": "", "subsections": [ { "id": "Generation（生成）", "title": "Generation（生成）", "content": "LLM根据输入（prompt）产生输出的过程。是Agent系统的核心能力之一。\n- **相关术语**：Completion, Sampling, Decoding Strategy" }, { "id": "GPT (Generative Pre-", "title": "GPT (Generative Pre-trained Transformer)", "content": "OpenAI开发的基于Transformer架构的生成式预训练模型系列，包括GPT-3.5、GPT-4、GPT-4o等。\n- **相关术语**：OpenAI, Transformer, Foundation Model" }, { "id": "GPU (Graphics Proces", "title": "GPU (Graphics Processing Unit)", "content": "图形处理单元，因其并行计算能力而广泛用于LLM的训练和推理。\n- **相关术语**：TPU, NPU, CUDA, Inference" }, { "id": "Gradient Descent（梯度下", "title": "Gradient Descent（梯度下降）", "content": "一种优化算法，通过沿着损失函数梯度的反方向更新模型参数来最小化损失。\n- **相关术语**：Backpropagation, Learning Rate, Loss Function" }, { "id": "Graph Database（图数据库）", "title": "Graph Database（图数据库）", "content": "使用图结构（节点、边、属性）来存储和查询数据的数据库系统。Neo4j是最知名的图数据库。\n- **相关术语**：Knowledge Graph, Vector Database" }, { "id": "Guardrails（护栏）", "title": "Guardrails（护栏）", "content": "限制Agent行为边界的安全机制，确保Agent的输出和行为在预定义的安全范围内。\n- **相关术语**：Safety, Alignment, Content Filter, Red Teaming\n- **参见**：卷五 第14章" }, { "id": "Grounding（接地/基于事实）", "title": "Grounding（接地/基于事实）", "content": "确保Agent的输出基于可验证的事实，而非\"幻觉\"。RAG是提升接地性的一种关键技术。\n- **相关术语**：Hallucination, RAG, Factuality\n\n---" } ] }, { "id": "H", "title": "H", "level": 2, "content": "", "subsections": [ { "id": "Hallucination（幻觉）", "title": "Hallucination（幻觉）", "content": "LLM生成看似合理但实际上不符合事实或无法验证的内容。这是LLM面临的核心挑战之一。\n- **相关术语**：Grounding, RAG, Factuality, Confidence Score" }, { "id": "HPA (Horizontal Pod ", "title": "HPA (Horizontal Pod Autoscaler)", "content": "Kubernetes的水平Pod自动伸缩器，根据指标（CPU、内存、自定义指标）自动调整Pod副本数。\n- **相关术语**：Kubernetes, Auto-scaling, Deployment\n- **参见**：附录C" }, { "id": "Human-in-the-Loop (H", "title": "Human-in-the-Loop (HITL)（人在回路）", "content": "在自动化流程中引入人工审批或干预的机制。在Agent系统中常用于关键决策的安全把关。\n- **相关术语**：Active Learning, Approval Workflow, Safety\n\n---" } ] }, { "id": "I", "title": "I", "level": 2, "content": "", "subsections": [ { "id": "In-context Learning ", "title": "In-context Learning (ICL)（上下文学习）", "content": "通过在prompt中提供示例或指令来引导模型行为，无需更新模型参数。Few-shot和Zero-shot都是上下文学习的形式。\n- **相关术语**：Few-shot, Zero-shot, Prompt Engineering" }, { "id": "Inference（推理）", "title": "Inference（推理）", "content": "使用训练好的模型对新数据进行预测或生成的过程。在LLM领域，推理通常指API调用时的模型计算。\n- **相关术语** : Training, Serving, Latency, Throughput" }, { "id": "Instruction Followin", "title": "Instruction Following（指令遵循）", "content": "LLM理解和执行用户指令的能力。这是评估模型质量的重要维度之一。\n- **相关术语**：Prompt, System Prompt, Alignment" }, { "id": "Instruction Tuning（指", "title": "Instruction Tuning（指令微调）", "content": "使用\"指令-回答\"对数据进行微调，使模型能够更好地理解和遵循用户指令。\n- **相关术语**：Fine-tuning, RLHF, SFT (Supervised Fine-Tuning)\n\n---" } ] }, { "id": "J", "title": "J", "level": 2, "content": "", "subsections": [ { "id": "JSON Mode（JSON模式）", "title": "JSON Mode（JSON模式）", "content": "LLM的一种输出模式，确保输出为合法的JSON格式。在Agent的工具调用和结构化输出中广泛使用。\n- **相关术语** : Structured Output, Function Calling, Schema" }, { "id": "JWT (JSON Web Token)", "title": "JWT (JSON Web Token)", "content": "一种用于身份认证和信息传递的标准。在Agent API中常用于认证。\n- **相关术语** : Authentication, API Key, OAuth\n\n---" } ] }, { "id": "K", "title": "K", "level": 2, "content": "", "subsections": [ { "id": "Knowledge Base (KB)（", "title": "Knowledge Base (KB)（知识库）", "content": "存储结构化或非结构化知识的系统。在RAG中，知识库是Agent检索外部信息的主要来源。\n- **相关术语** : RAG, Vector Store, Document Store" }, { "id": "Knowledge Cutoff（知识截", "title": "Knowledge Cutoff（知识截止日期）", "content": "LLM训练数据的截止时间，模型不具备此日期之后的知识。\n- **相关术语** : Training Data, Hallucination, Grounding" }, { "id": "Knowledge Distillati", "title": "Knowledge Distillation（知识蒸馏）", "content": "见 Distillation。" }, { "id": "Knowledge Graph（知识图谱", "title": "Knowledge Graph（知识图谱）", "content": "以图结构表示实体及其关系的知识表示方法。可以增强Agent的知识推理能力。\n- **相关术语** : Graph Database, Knowledge Base, Triple" }, { "id": "Kubernetes (K8s)", "title": "Kubernetes (K8s)", "content": "开源容器编排平台，用于自动化部署、扩展和管理容器化应用。\n- **相关术语** : Docker, Container, HPA, Deployment\n- **参见** : 附录C\n\n---" } ] }, { "id": "L", "title": "L", "level": 2, "content": "", "subsections": [ { "id": "LangChain", "title": "LangChain", "content": "最广泛使用的LLM应用开发框架，提供模块化的组件来构建Agent和LLM应用。\n- **相关术语** : LangGraph, LCEL, Agent Framework\n- **参见** : 附录A" }, { "id": "LangGraph", "title": "LangGraph", "content": "基于图结构的Agent工作流编排框架，支持状态管理和人机协作。\n- **相关术语** : LangChain, DAG, StateGraph\n- **参见** : 附录A" }, { "id": "LCEL (LangChain Expr", "title": "LCEL (LangChain Expression Language)", "content": "LangChain的声明式链式调用语法，用于构建和组合LLM处理管道。\n- **相关术语** : LangChain, Chain, Pipeline" }, { "id": "LLM (Large Language ", "title": "LLM (Large Language Model)（大语言模型）", "content": "在海量文本数据上预训练的大型神经网络模型，具备自然语言理解和生成能力。\n- **相关术语** : GPT, Claude, Foundation Model, Transformer" }, { "id": "LoRA (Low-Rank Adapt", "title": "LoRA (Low-Rank Adaptation)", "content": "一种参数高效的微调方法，通过低秩矩阵来近似全量微调的效果，大幅减少训练成本。\n- **相关术语** : Fine-tuning, QLoRA, Parameter-efficient Fine-tuning" }, { "id": "Loss Function（损失函数）", "title": "Loss Function（损失函数）", "content": "衡量模型预测与真实值之间差异的函数。训练过程即是最小化损失函数。\n- **相关术语** : Gradient Descent, Training, Optimization\n\n---" } ] }, { "id": "M", "title": "M", "level": 2, "content": "", "subsections": [ { "id": "MCP (Model Context P", "title": "MCP (Model Context Protocol)", "content": "模型上下文协议，一种标准化的协议，用于将外部工具和数据源连接到LLM Agent。\n- **相关术语** : Tool Use, Plugin, API" }, { "id": "MDP (Markov Decision", "title": "MDP (Markov Decision Process)（马尔可夫决策过程）", "content": "描述Agent决策过程的数学框架，定义了状态、动作、转移概率和奖励函数。\n- **相关术语** : Policy, Value Function, Reinforcement Learning" }, { "id": "Memory（记忆）", "title": "Memory（记忆）", "content": "Agent存储和检索过去信息的能力。包括短期记忆（上下文窗口）、长期记忆（向量存储）和工作记忆。\n- **相关术语** : Context Window, Vector Store, RAG, Episodic Memory\n- **参见** : 卷三 第8章" }, { "id": "Metrics（指标）", "title": "Metrics（指标）", "content": "用于衡量系统性能的量化数据。Agent系统的常见指标包括延迟、吞吐量、准确率、成本等。\n- **相关术语** : Evaluation, Monitoring, KPI" }, { "id": "Model Context Protoc", "title": "Model Context Protocol", "content": "见 MCP。" }, { "id": "Multi-Agent System (", "title": "Multi-Agent System (MAS)（多Agent系统）", "content": "由多个Agent协作完成任务的系统。Agent之间通过消息传递、共享状态等方式进行协调。\n- **相关术语** : Agent, Collaboration, Orchestration, AutoGen, CrewAI\n- **参见** : 卷四 第10章\n\n---" } ] }, { "id": "N", "title": "N", "level": 2, "content": "", "subsections": [ { "id": "NeRF (Neural Radianc", "title": "NeRF (Neural Radiance Fields)", "content": "神经辐射场，一种用神经网络表示3D场景的方法。在多模态Agent中有应用潜力。\n- **相关术语** : 3D Understanding, Multimodal" }, { "id": "Next-token Predictio", "title": "Next-token Prediction（下一个token预测）", "content": "自回归语言模型的核心训练目标：给定前面的所有token，预测下一个最可能的token。\n- **相关术语** : Auto-regressive Model, Training, Language Modeling" }, { "id": "NPU (Neural Processi", "title": "NPU (Neural Processing Unit)", "content": "神经处理单元，专门为神经网络推理设计的硬件加速器。\n- **相关术语** : GPU, TPU, Edge Deployment\n\n---" } ] }, { "id": "O", "title": "O", "level": 2, "content": "", "subsections": [ { "id": "Observation（观察）", "title": "Observation（观察）", "content": "Agent从环境中获取的信息。在ReAct框架中，观察是工具执行后的返回结果。\n- **相关术语** : ReAct, Tool Use, State, Perception\n- **参见** : 卷二 第3章" }, { "id": "OpenAI", "title": "OpenAI", "content": "AI研究和部署公司，创建了GPT系列模型、DALL-E、Whisper等产品。\n- **相关术语** : GPT, API, Embedding" }, { "id": "Orchestration（编排）", "title": "Orchestration（编排）", "content": "协调和管理多个Agent、工具或工作流步骤的过程。\n- **相关术语** : Workflow, Multi-Agent System, DAG" }, { "id": "Overfitting（过拟合）", "title": "Overfitting（过拟合）", "content": "模型在训练数据上表现很好，但在未见数据上表现差。在Agent的few-shot示例选择中需要避免。\n- **相关术语** : Generalization, Regularization, Training\n\n---" } ] }, { "id": "P", "title": "P", "level": 2, "content": "", "subsections": [ { "id": "Parameter-Efficient ", "title": "Parameter-Efficient Fine-Tuning (PEFT)（参数高效微调）", "content": "只更新模型的一小部分参数即可实现微调效果的方法。LoRA、Prefix Tuning等属于PEFT方法。\n- **相关术语** : LoRA, Fine-tuning, QLoRA" }, { "id": "Perception（感知）", "title": "Perception（感知）", "content": "Agent从外部环境获取信息的模块。在LLM Agent中，\"感知\"通常指接收用户输入或读取外部数据。\n- **相关术语** : Observation, Input, Multimodal" }, { "id": "Plan-and-Execute（规划与", "title": "Plan-and-Execute（规划与执行）", "content": "一种Agent架构模式，先制定完整的执行计划，然后逐步执行计划中的每个步骤。\n- **相关术语** : ReAct, Planning, Task Decomposition\n- **参见** : 卷二 第3章" }, { "id": "Planning（规划）", "title": "Planning（规划）", "content": "Agent制定行动方案的过程。在复杂任务中，规划是Agent智能行为的关键组成部分。\n- **相关术语** : Plan-and-Execute, Task Decomposition, MDP" }, { "id": "Plug-in（插件）", "title": "Plug-in（插件）", "content": "可热插拔的功能扩展模块。Agent的工具系统本质上就是一种插件架构。\n- **相关术语** : Tool, Extension, MCP" }, { "id": "Prompt（提示）", "title": "Prompt（提示）", "content": "发送给LLM的输入文本，用于引导模型生成期望的输出。\n- **相关术语** : System Prompt, User Prompt, Prompt Engineering\n- **参见** : 卷二 第4章" }, { "id": "Prompt Engineering（提", "title": "Prompt Engineering（提示工程）", "content": "设计和优化prompt以引导LLM产生更好输出的技术和方法论。\n- **相关术语** : Prompt, Chain-of-Thought, Few-shot, In-context Learning\n- **参见** : 卷二 第4章" }, { "id": "Prompt Injection（提示注", "title": "Prompt Injection（提示注入）", "content": "一种攻击方式，攻击者通过精心设计的输入来绕过Agent的安全限制或使其执行非预期操作。\n- **相关术语** : Security, Guardrails, Red Teaming, Jailbreak\n\n---" } ] }, { "id": "Q", "title": "Q", "level": 2, "content": "", "subsections": [ { "id": "QLoRA (Quantized LoR", "title": "QLoRA (Quantized LoRA)", "content": "结合量化和LoRA的微调方法，在量化模型上进行低秩适配，进一步降低微调的硬件需求。\n- **相关术语** : LoRA, Quantization, Fine-tuning, PEFT" }, { "id": "Quantization（量化）", "title": "Quantization（量化）", "content": "降低模型数值精度的技术（如FP16→INT8→INT4），以减少模型大小和推理资源消耗。\n- **相关术语** : Distillation, Pruning, Model Compression, GGUF\n- **参见** : 卷五 第16章" }, { "id": "Query（查询）", "title": "Query（查询）", "content": "在RAG系统中，用户的问题经过处理后用于检索相关文档的向量查询。\n- **相关术语** : RAG, Retrieval, Embedding, Search\n\n---" } ] }, { "id": "R", "title": "R", "level": 2, "content": "", "subsections": [ { "id": "RAG (Retrieval-Augme", "title": "RAG (Retrieval-Augmented Generation)（检索增强生成）", "content": "将外部知识检索与LLM生成相结合的技术范式。Agent先从知识库中检索相关信息，再基于检索结果生成回答。\n- **相关术语** : Retrieval, Knowledge Base, Embedding, Vector Store\n- **参见** : 卷三 第7章" }, { "id": "Rate Limiting（速率限制）", "title": "Rate Limiting（速率限制）", "content": "限制API调用频率的机制，用于防止滥用和控制成本。\n- **相关术语** : Throttling, API Quota, Cost Control" }, { "id": "ReAct (Reasoning + A", "title": "ReAct (Reasoning + Acting)（推理+行动）", "content": "一种Agent架构模式，Agent交替进行推理（Reasoning）和行动（Acting），在推理中决定下一步行动，在行动中获取观察结果。\n- **相关术语** : Observation, Action, Thought, Agent Architecture\n- **参见** : 卷二 第3章" }, { "id": "Reasoning（推理）", "title": "Reasoning（推理）", "content": "Agent进行逻辑推导和决策的过程。推理能力是Agent智能水平的核心体现。\n- **相关术语** : ReAct, Chain-of-Thought, Planning, Extended Thinking" }, { "id": "Redis", "title": "Redis", "content": "高性能内存键值数据库，常用于Agent系统的缓存、会话存储和消息队列。\n- **相关术语** : Cache, Session, Message Queue" }, { "id": "Red Teaming（红队测试）", "title": "Red Teaming（红队测试）", "content": "模拟攻击者对AI系统进行对抗性测试，以发现安全漏洞和弱点。\n- **相关术语** : Security, Prompt Injection, Evaluation, Safety\n- **参见** : 卷五 第14章" }, { "id": "Refine（精炼/迭代改进）", "title": "Refine（精炼/迭代改进）", "content": "RAG中的一种检索策略，对初始检索结果进行多轮优化和补充检索。\n- **相关术语** : RAG, Iterative Retrieval, Self-RAG" }, { "id": "Reflexion（反思）", "title": "Reflexion（反思）", "content": "一种Agent架构模式，Agent通过反思自身的行为和结果来改进未来的决策。\n- **相关术语** : Self-reflection, Self-correction, ReAct" }, { "id": "Reinforcement Learni", "title": "Reinforcement Learning (RL)（强化学习）", "content": "Agent通过与环境交互并获得奖励信号来学习最优策略的机器学习范式。\n- **相关术语** : RLHF, PPO, Reward Model, MDP" }, { "id": "RLHF (Reinforcement ", "title": "RLHF (Reinforcement Learning from Human Feedback)（基于人类反馈的强化学习）", "content": "使用人类偏好数据训练奖励模型，再用强化学习来优化LLM的对齐效果。GPT-4和Claude都使用了RLHF。\n- **相关术语** : Alignment, Reward Model, PPO, Constitutional AI" }, { "id": "Role-playing（角色扮演）", "title": "Role-playing（角色扮演）", "content": "在prompt中为LLM设定特定角色（如专家、助手、评审员），以引导其以特定风格和知识范围进行回应。\n- **相关术语** : Prompt Engineering, System Prompt, Persona\n\n---" } ] }, { "id": "S", "title": "S", "level": 2, "content": "", "subsections": [ { "id": "Sampling（采样）", "title": "Sampling（采样）", "content": "从概率分布中随机选择输出的过程。与贪心搜索不同，采样可以产生多样性输出。\n- **相关术语** : Temperature, Top-k, Top-p, Decoding Strategy" }, { "id": "Scaling Law（缩放定律）", "title": "Scaling Law（缩放定律）", "content": "描述模型性能如何随着参数量、数据量和计算量增长而提升的统计规律。\n- **相关术语** : Emergent Ability, Foundation Model, Parameters" }, { "id": "Semantic Search（语义搜索", "title": "Semantic Search（语义搜索）", "content": "基于文本语义相似度而非关键词匹配进行搜索的方法。向量搜索是语义搜索的核心技术。\n- **相关术语** : Embedding, Vector Search, RAG, Cosine Similarity" }, { "id": "Semantic Kernel", "title": "Semantic Kernel", "content": "微软推出的企业级AI编排框架，与Azure生态深度集成。\n- **相关术语** : Microsoft, Plugin, Enterprise AI\n- **参见** : 附录A" }, { "id": "Serverless（无服务器）", "title": "Serverless（无服务器）", "content": "一种云计算模式，开发者无需管理服务器，按实际使用量计费。\n- **相关术语** : AWS Lambda, Function-as-a-Service, Deployment\n- **参见** : 附录C" }, { "id": "Session（会话）", "title": "Session（会话）", "content": "一次完整的用户与Agent交互过程。会话管理包括对话历史、用户状态、上下文等。\n- **相关术语** : Conversation History, State, Context Window" }, { "id": "Short-term Memory（短期", "title": "Short-term Memory（短期记忆）", "content": "Agent在当前会话中可以访问的信息，通常受限于上下文窗口大小。\n- **相关术语** : Long-term Memory, Context Window, Memory" }, { "id": "Splitting（分割）", "title": "Splitting（分割）", "content": "见 Chunking。" }, { "id": "State Graph（状态图）", "title": "State Graph（状态图）", "content": "在LangGraph中，用图结构表示的状态转换过程，支持循环、条件分支和检查点。\n- **相关术语** : LangGraph, DAG, Checkpoint, State" }, { "id": "Streaming（流式输出）", "title": "Streaming（流式输出）", "content": "LLM逐个token生成并实时返回结果的方式，大幅减少用户等待首字输出的时间。\n- **相关术语** : Server-Sent Events, Real-time, Latency" }, { "id": "Structured Output（结构", "title": "Structured Output（结构化输出）", "content": "LLM以预定义的结构化格式（如JSON、XML）输出内容，便于程序解析和处理。\n- **相关术语** : JSON Mode, Function Calling, Schema" }, { "id": "System Prompt（系统提示）", "title": "System Prompt（系统提示）", "content": "设置LLM基本行为和角色的指令，通常放在对话的最开始，对所有后续交互生效。\n- **相关术语** : Prompt, Role-playing, Instructions\n\n---" } ] }, { "id": "T", "title": "T", "level": 2, "content": "", "subsections": [ { "id": "Task Decomposition（任", "title": "Task Decomposition（任务分解）", "content": "将复杂任务拆解为更小、可管理的子任务的过程。是Agent处理复杂问题的关键能力。\n- **相关术语** : Planning, Multi-Agent System, Divide and Conquer" }, { "id": "Temperature（温度）", "title": "Temperature（温度）", "content": "控制LLM输出随机性的参数。温度越高，输出越随机和多样；温度越低，输出越确定和保守。\n- **相关术语** : Sampling, Top-k, Top-p, Decoding Strategy" }, { "id": "Token", "title": "Token", "content": "LLM处理文本的基本单位。一个中文汉字约1.5-2个token，一个英文单词约0.25-1个token。\n- **相关术语** : Tokenization, Context Window, BPE\n- **参见** : 卷一 第2章" }, { "id": "Tokenization（分词）", "title": "Tokenization（分词）", "content": "将文本分割为token序列的过程。常见的分词方法包括BPE、WordPiece、SentencePiece等。\n- **相关术语** : Token, BPE, Vocabulary" }, { "id": "Tool Use（工具使用）", "title": "Tool Use（工具使用）", "content": "LLM通过调用外部工具（API、函数、脚本等）来扩展自身能力的方式。也称为Function Calling。\n- **相关术语** : Function Calling, Tool, Agent, Plugin\n- **参见** : 卷三 第5章" }, { "id": "Top-k Sampling（Top-k", "title": "Top-k Sampling（Top-k采样）", "content": "从概率最高的k个候选token中进行采样。k=1等价于贪心搜索。\n- **相关术语** : Sampling, Top-p, Temperature" }, { "id": "Top-p Sampling / Nuc", "title": "Top-p Sampling / Nucleus Sampling（核采样）", "content": "从累积概率达到p的最小候选集中进行采样。相比Top-k，核采样会自动调整候选集大小。\n- **相关术语** : Sampling, Top-k, Temperature" }, { "id": "Transformer", "title": "Transformer", "content": "一种基于自注意力机制的神经网络架构，是现代LLM（GPT、Claude、Llama等）的基础架构。\n- **相关术语** : Attention, Self-Attention, GPT, Encoder-Decoder" }, { "id": "TPU (Tensor Processi", "title": "TPU (Tensor Processing Unit)", "content": "Google开发的专用AI加速芯片。\n- **相关术语** : GPU, NPU, Inference, Training\n\n---" } ] }, { "id": "U", "title": "U", "level": 2, "content": "", "subsections": [ { "id": "User Proxy（用户代理）", "title": "User Proxy（用户代理）", "content": "在AutoGen等多Agent框架中，代表用户与Agent交互的角色。可以配置为自动执行或需要人工确认。\n- **相关术语** : Human-in-the-Loop, AutoGen, Approval Workflow\n\n---" } ] }, { "id": "V", "title": "V", "level": 2, "content": "", "subsections": [ { "id": "Value Function（价值函数）", "title": "Value Function（价值函数）", "content": "在强化学习中，评估某个状态或状态-动作对长期期望回报的函数。\n- **相关术语** : Policy, MDP, Reward Model, Reinforcement Learning" }, { "id": "Vector Database（向量数据", "title": "Vector Database（向量数据库）", "content": "专门用于存储和检索高维向量数据的数据库系统。RAG系统的核心基础设施。\n- **相关术语** : RAG, Embedding, Chroma, Milvus, Pinecone\n- **参见** : 卷三 第7章，附录B" }, { "id": "Vector Store（向量存储）", "title": "Vector Store（向量存储）", "content": "向量数据库中存储嵌入向量的逻辑集合。一个向量数据库可以包含多个向量存储。\n- **相关术语** : Vector Database, Embedding, Collection" }, { "id": "Vision-Language Mode", "title": "Vision-Language Model (VLM)（视觉语言模型）", "content": "能够同时理解图像和文本的多模态模型。GPT-4o、Claude 3等支持视觉输入。\n- **相关术语** : Multimodal, Image Understanding, Vision\n\n---" } ] }, { "id": "W", "title": "W", "level": 2, "content": "", "subsections": [ { "id": "Weights（权重）", "title": "Weights（权重）", "content": "神经网络中连接不同层之间的可学习参数。模型训练的本质就是调整权重。\n- **相关术语** : Parameters, Training, Fine-tuning" }, { "id": "Workflow（工作流）", "title": "Workflow（工作流）", "content": "一系列有序执行的步骤，可能包含条件分支、循环和并行处理。Agent工作流是Agent执行复杂任务的核心机制。\n- **相关术语** : Pipeline, DAG, Orchestration, Agentic Workflow\n- **参见** : 卷三 第6章\n\n---" } ] }, { "id": "Z", "title": "Z", "level": 2, "content": "", "subsections": [ { "id": "Zero-shot（零样本）", "title": "Zero-shot（零样本）", "content": "不给模型提供任何示例，直接让其完成任务。零样本能力是评估模型通用性的重要指标。\n- **相关术语** : Few-shot, In-context Learning, Prompt Engineering\n\n---" } ] }, { "id": "中文拼音索引", "title": "中文拼音索引", "level": 2, "content": "| 拼音 | 术语 |\n|------|------|\n| A | Agent（智能体）, Alignment（对齐）, Auto-regressive Model（自回归模型） |\n| B | Batch Processing（批处理）, Beam Search（束搜索）, BPE（字节对编码） |\n| C | Chain-of-Thought（思维链）, Chunking（分块）, Claude, Context Window（上下文窗口）, Constitutional AI（宪法AI） |\n| D | DAG（有向无环图）, Decoding Strategy（解码策略）, Distillation（蒸馏）, Docker |\n| E | Embedding（嵌入）, Emergent Ability（涌现能力）, Evaluation（评估）, Extended Thinking（扩展思考） |\n| F | Few-shot Learning（少样本学习）, Fine-tuning（微调）, Foundation Model（基础模型）, Function Calling（函数调用） |\n| G | GPT, GPU, Gradient Descent（梯度下降）, Guardrails（护栏）, Grounding（接地） |\n| H | Hallucination（幻觉）, HPA（水平Pod自动伸缩器）, Human-in-the-Loop（人在回路） |\n| I | In-context Learning（上下文学习）, Inference（推理） |\n| J | JSON Mode（JSON模式）, JWT |\n| K | Knowledge Base（知识库）, Knowledge Graph（知识图谱）, Kubernetes |\n| L | LangChain, LangGraph, LLM（大语言模型）, LoRA |\n| M | MCP（模型上下文协议）, MDP（马尔可夫决策过程）, Memory（记忆）, Multi-Agent System（多Agent系统） |\n| N | Next-token Prediction（下一个token预测）, NPU |\n| O | Observation（观察）, OpenAI, Orchestration（编排） |\n| P | Parameter-Efficient Fine-Tuning（参数高效微调）, Perception（感知）, Plan-and-Execute（规划与执行）, Planning（规划）, Prompt（提示）, Prompt Engineering（提示工程）, Prompt Injection（提示注入） |\n| Q | QLoRA, Quantization（量化）, Query（查询） |\n| R | RAG（检索增强生成）, Rate Limiting（速率限制）, ReAct（推理+行动）, Reasoning（推理）, Redis, Red Teaming（红队测试）, Reflexion（反思）, RLHF（基于人类反馈的强化学习） |\n| S | Sampling（采样）, Scaling Law（缩放定律）, Semantic Search（语义搜索）, Serverless（无服务器）, Session（会话）, Splitting（分割）, Streaming（流式输出）, Structured Output（结构化输出）, System Prompt（系统提示） |\n| T | Task Decomposition（任务分解）, Temperature（温度）, Token, Tokenization（分词）, Tool Use（工具使用）, Top-k Sampling, Top-p Sampling, Transformer, TPU |\n| V | Value Function（价值函数）, Vector Database（向量数据库）, Vision-Language Model（视觉语言模型） |\n| W | Weights（权重）, Workflow（工作流） |\n| Z | Zero-shot（零样本） |\n\n---\n\n*附录D完*", "subsections": [] } ], "code_blocks": [], "tables": [ { "headers": [ "拼音", "术语" ], "data": [ [ "A", "Agent（智能体）, Alignment（对齐）, Auto-regressive Model（自回归模型）" ], [ "B", "Batch Processing（批处理）, Beam Search（束搜索）, BPE（字节对编码）" ], [ "C", "Chain-of-Thought（思维链）, Chunking（分块）, Claude, Context Window（上下文窗口）, Constitutional AI（宪法AI）" ], [ "D", "DAG（有向无环图）, Decoding Strategy（解码策略）, Distillation（蒸馏）, Docker" ], [ "E", "Embedding（嵌入）, Emergent Ability（涌现能力）, Evaluation（评估）, Extended Thinking（扩展思考）" ], [ "F", "Few-shot Learning（少样本学习）, Fine-tuning（微调）, Foundation Model（基础模型）, Function Calling（函数调用）" ], [ "G", "GPT, GPU, Gradient Descent（梯度下降）, Guardrails（护栏）, Grounding（接地）" ], [ "H", "Hallucination（幻觉）, HPA（水平Pod自动伸缩器）, Human-in-the-Loop（人在回路）" ], [ "I", "In-context Learning（上下文学习）, Inference（推理）" ], [ "J", "JSON Mode（JSON模式）, JWT" ], [ "K", "Knowledge Base（知识库）, Knowledge Graph（知识图谱）, Kubernetes" ], [ "L", "LangChain, LangGraph, LLM（大语言模型）, LoRA" ], [ "M", "MCP（模型上下文协议）, MDP（马尔可夫决策过程）, Memory（记忆）, Multi-Agent System（多Agent系统）" ], [ "N", "Next-token Prediction（下一个token预测）, NPU" ], [ "O", "Observation（观察）, OpenAI, Orchestration（编排）" ], [ "P", "Parameter-Efficient Fine-Tuning（参数高效微调）, Perception（感知）, Plan-and-Execute（规划与执行）, Planning（规划）, Prompt（提示）, Prompt Engineering（提示工程）, Prompt Injection（提示注入）" ], [ "Q", "QLoRA, Quantization（量化）, Query（查询）" ], [ "R", "RAG（检索增强生成）, Rate Limiting（速率限制）, ReAct（推理+行动）, Reasoning（推理）, Redis, Red Teaming（红队测试）, Reflexion（反思）, RLHF（基于人类反馈的强化学习）" ], [ "S", "Sampling（采样）, Scaling Law（缩放定律）, Semantic Search（语义搜索）, Serverless（无服务器）, Session（会话）, Splitting（分割）, Streaming（流式输出）, Structured Output（结构化输出）, System Prompt（系统提示）" ], [ "T", "Task Decomposition（任务分解）, Temperature（温度）, Token, Tokenization（分词）, Tool Use（工具使用）, Top-k Sampling, Top-p Sampling, Transformer, TPU" ], [ "V", "Value Function（价值函数）, Vector Database（向量数据库）, Vision-Language Model（视觉语言模型）" ], [ "W", "Weights（权重）, Workflow（工作流）" ], [ "Z", "Zero-shot（零样本）" ] ] } ], "key_takeaways": [], "common_pitfalls": [], "related_chapters": [] }