文章目录
- 人工提示设计
- 自动提示设计
经过预训练、指令微调和人类对齐后,我们接下来讨论如何通过提示学习方法来有效地使用大语言模型解决实际任务。目前常用的方法是设计合适的提示(Prompting),通过自然语言接口与大模型进行交互。在现有研究中,任务提示的设计主要依靠人工设计和自动优化两种策略来实现。为了更好地解决未见过的任务,一种典型的提示方法是上下文学习(In-contextLearning,ICL),它将任务描述与示例以自然语言文本形式加入到提示中。此外,思维链提示(Chain-of-Thought, CoT)作为一种增强技术,将一系列中间推理步骤加入到提示中,以增强复杂推理任务的解决效果。
人工提示设计
针对特定任务设计合适的任务提示,这一过程被称为“提示工程”(Prompt Engineering)。在本节中,我们将首先介绍构成提示的关键要素,随后介绍人工设计提示的重要基本原则,并提供一些相关的实用建议和案例。读者可以进一步参考相关论文和网站,以获得更为全面的提示设计建议。一般而言,针对大语言模型的提示设计需要考虑四个关键要素,即任务描述、输入数据、上下文信息和提示策略。下面将对这四个关键要素进行具体介绍。
任务描述,任务描述部分展示了大语言模型应当遵循的具体指令。一般来说,用户应该使用清晰的、具体的表达来描述