正在加载模式…

🎯

上下文学习(ICL)

基于当前上下文中的指令和示例对模型进行条件化，而不更新模型参数

复杂度: medium学习与适应

30秒速览

是什么: 通过提示中的任务说明与示例来调节模型，不改动模型权重，从而引导它处理新输入的行为。
何时使用: 类别或模式清晰固定的任务，少量带标注的示例就能可靠地告诉模型该怎么做。
注意: 如果示例与真实输入的分布不匹配，或模型误判了哪些特征重要，性能就会急剧下降。

向AI专家咨询此模式

打开助手并预填您的问题,发送前可先确认。

以MCP服务器形式获取此目录为该模式调优提示词

基于当前上下文中的指令和示例对模型进行条件化，而不更新模型参数

Zero-shot instructions
Few-shot demonstrations
Example-based task specification
No parameter updates
Retrieval-based example selection
Prompt-order sensitivity testing

The Agent Architect

每周一个模式、一个权衡、一个生产事故案例。为构建智能体系统的人准备的每周简报。

每周一封邮件,一键退订。您的地址仅用于发送简报。

参考资料

该模式所依据的论文、规范和代码仓库。

Language Models are Few-Shot Learners (2020)arXiv:2005.14165

由本目录背后的工程师执行

为你的智能体架构做一次评审

本页讲的是一个模式。真实系统会同时跑几十个，而多数故障恰恰出在它们的衔接处。我们按本目录的 288 个模式评审你的整体设计：架构、可靠性、评测与成本，每一条结论都对应到能修复它的模式。

€750（原价 €1,500），一周交付，书面报告加讲解通话，9月30日前

查看评审

模式

正在加载模式…

设计模式与技术

正在加载模式…

🎯

上下文学习(ICL)

基于当前上下文中的指令和示例对模型进行条件化，而不更新模型参数

复杂度: medium学习与适应

30秒速览

是什么: 通过提示中的任务说明与示例来调节模型，不改动模型权重，从而引导它处理新输入的行为。
何时使用: 类别或模式清晰固定的任务，少量带标注的示例就能可靠地告诉模型该怎么做。
注意: 如果示例与真实输入的分布不匹配，或模型误判了哪些特征重要，性能就会急剧下降。

向AI专家咨询此模式

打开助手并预填您的问题,发送前可先确认。

以MCP服务器形式获取此目录为该模式调优提示词

30 秒速览

模式： 在提示中提供任务示例，使模型无需更新参数即可学习

原因： 实现快速任务适配，无需训练，利用模型的模式识别能力立即产出效果

关键洞察： 模型可从上下文中的示范中学习，在推理时执行隐式梯度下降

快速实现

1选择:为任务上下文挑选相关示例

2格式化:将示例组织为输入输出对

3提示:将示例与目标查询组合

4推理:模型从示例中学习模式

5生成:将学到的模式应用于新输入

Example: examples + query → model_inference → output

何时使用

适用场景

• 需要快速适配新任务
• 训练数据有限或完全没有
• 任务更需要示范而非描述
• 快速原型设计与实验
• 模型需要理解复杂模式

避免场景

• 拥有大量训练数据
• 任务需要大量领域知识
• 上下文窗口限制非常严格
• 精度要求超出 ICL 的能力范围
• 需要在各种变体间保持稳定表现

关键指标

Few-shot 准确率

使用 K 个示例时的表现

示例效率

每个示例带来的性能提升

上下文利用率

token 消耗与性能对比

任务迁移

对未见输入的泛化能力

示例敏感度

不同示例集之间的性能方差

排序鲁棒性

在不同示例顺序下的稳定性

主要应用场景

文本分类: 借助带标签示例做情感分析与主题归类

数据抽取: 命名实体识别、从文档中提取信息

格式转换: JSON 转 XML、结构化数据变换

问答: 借助问答对示例实现领域专属 QA

代码生成: 借助输入输出代码示例完成编程任务

创意写作: 风格迁移、依据文体示例生成内容

参考资料与延伸阅读

通过这些精选资源加深理解

奠基性论文

Language Models are Few-Shot Learners (Brown et al., 2020)

Learning to Retrieve Prompts for In-Context Learning (Rubin et al., 2021)

What Makes Good In-Context Examples for GPT-3? (Liu et al., 2021)

Calibrate Before Use: Improving Few-Shot Performance (Zhao et al., 2021)

理论理解 (2022-2024)

Why Can GPT Learn In-Context? Language Models Secretly Perform Gradient Descent (Dai et al., 2022)

Transformers Learn In-Context by Gradient Descent (von Oswald et al., 2022)

In-context Learning and Induction Heads (Olsson et al., 2022)

What learning algorithm is in-context learning? Investigations with linear models (Akyürek et al., 2022)

示例选择与优化

Learning To Retrieve Prompts for In-Context Learning (Rubin et al., 2021)

In-Context Example Selection with Influences (Nguyen & Wong, 2023)

Active Example Selection for In-Context Learning (Zhang et al., 2022)

Compositional Exemplars for In-context Learning (Ye et al., 2023)

Chain-of-Thought 与推理

Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (Wei et al., 2022)

Least-to-Most Prompting Enables Complex Reasoning in Large Language Models (Zhou et al., 2022)

Self-Consistency Improves Chain of Thought Reasoning in Language Models (Wang et al., 2022)

Large Language Models are Zero-Shot Reasoners (Kojima et al., 2022)

近期进展 (2023-2024)

In-Context Learning Creates Task Vectors (Hendel et al., 2023)

Many-Shot In-Context Learning (Agarwal et al., 2024)

In-Context Learning with Long Context (Bertsch et al., 2024)

Understanding In-Context Learning via Supportive Pretraining Data (Shin et al., 2024)

多模态上下文学习

Flamingo: a Visual Language Model for Few-Shot Learning (Alayrac et al., 2022)

Multimodal Few-Shot Learning with Frozen Language Models (Tsimpoukelli et al., 2021)

GPT-4V(ision) System Card (OpenAI, 2023)

Visual In-Context Learning for Large Vision-Language Models (Yang et al., 2023)

实现资源

LangChain Few-shot 提示模板

OpenAI 提示工程最佳实践

Anthropic 提示工程指南

HuggingFace Transformers 上下文学习

数据集与基准

LAMA: LAnguage Model Analysis (Petroni et al., 2019)

BIG-bench: Beyond the Imitation Game Benchmark

HELM: Holistic Evaluation of Language Models

SuperGLUE: A Stickier Benchmark for General-Purpose Language Understanding

工具与库

Guidance: 用于控制大语言模型的引导语言

DSPy: Programming (not prompting) foundation models

PromptSource: 面向自然语言提示的集成开发环境

OpenPrompt: 面向提示学习的开源框架

分析与评估

Measuring and Narrowing the Compositionality Gap in Language Models (Press et al., 2022)

Rethinking the Role of Demonstrations: What Makes In-Context Learning Work? (Min et al., 2022)

Ground-Truth Labels Matter: A Deeper Look into Input-Label Demonstrations (Yoo et al., 2022)

Fantastically Ordered Prompts and Where to Find Them (Lu et al., 2021)

社区与讨论

r/MachineLearning - 上下文学习讨论

AI Alignment Forum - 上下文学习

EleutherAI Discord - 提示工程频道

Prompt Engineering Discord 社区

基于当前上下文中的指令和示例对模型进行条件化，而不更新模型参数

Zero-shot instructions
Few-shot demonstrations
Example-based task specification
No parameter updates
Retrieval-based example selection
Prompt-order sensitivity testing

The Agent Architect

每周一个模式、一个权衡、一个生产事故案例。为构建智能体系统的人准备的每周简报。

每周一封邮件,一键退订。您的地址仅用于发送简报。

参考资料

该模式所依据的论文、规范和代码仓库。

Language Models are Few-Shot Learners (2020)arXiv:2005.14165

由本目录背后的工程师执行

为你的智能体架构做一次评审

€750（原价 €1,500），一周交付，书面报告加讲解通话，9月30日前

查看评审

正在加载模式…

上下文学习(ICL)

30秒速览

向AI专家咨询此模式

上下文学习: 概览

The Agent Architect

参考资料

为你的智能体架构做一次评审

模式

正在加载模式…

设计模式与技术

正在加载模式…

上下文学习(ICL)

30秒速览

向AI专家咨询此模式

30 秒速览

快速实现

推荐与避免

何时使用

适用场景

避免场景

关键指标

主要应用场景

参考资料与延伸阅读

奠基性论文

理论理解 (2022-2024)

示例选择与优化

Chain-of-Thought 与推理

近期进展 (2023-2024)

多模态上下文学习

实现资源

数据集与基准

工具与库

分析与评估

社区与讨论

上下文学习: 概览

The Agent Architect

参考资料

为你的智能体架构做一次评审

模式

设计模式与技术

正在加载模式…

设计模式与技术

30 秒速览

快速实现

推荐与避免

何时使用

适用场景

避免场景

关键指标

主要应用场景

参考资料与延伸阅读

奠基性论文

理论理解 (2022-2024)

示例选择与优化

Chain-of-Thought 与推理

近期进展 (2023-2024)

多模态上下文学习

实现资源

数据集与基准

工具与库

分析与评估

社区与讨论

设计模式与技术