提示的关键要素

在之前的页面中,我们已经讨论了几种不同的提示策略。本页将提供一般建议,这些建议对于提示的实际编写很重要。

“基本事实的重要性不大”

令人惊讶的是,在提示中提供少量 exemplars 时,实际答案 (gold) 并不重要。正如下图所示,即使在样本中提供随机标签,性能也几乎不受影响。在此图像中,“演示”与示例相同。

gold_unimportant-eb84f4ae31e82caa9c455238495cfca2.png

标签空间很重要

尽管样本中的黄金标签并不重要,但标签空间的定义对于大型语言模型来说非常关键。即使随机从标签空间中提供标签,也有助于模型更好地理解标签空间并提高结果。此外,正确地在样本中表示标签空间的分布也非常重要。与在样本中均匀采样标签不同,最好按照标签的实际分布进行采样。

格式很重要

样本的格式可能是最重要的部分,因为它指示大型语言模型如何正确地格式化其对提示的答案。

例如,请考虑以下样本。它们使用全大写单词作为答案。尽管这些答案完全错误(2+2并非50),但 GPT-3 正确地回答了最后一个问题,并按照其他样本的格式进行回答。

2+2等于多少? 
五十
20+5等于多少?
四十三
12+9等于多少?
二十一

备注

使用 4 到 8 个样本是适合用于少量示例提示的合适数字 ,但通常尽可能多地提供样本会更有帮助。

标签: prompt教程, prompt基础, prompt进阶, prompt应用, prompt核心, prompt提示, 提示工程, 提示工程师, prompt提示工程, prompt基础教程, prompt进阶教程, prompt高级教程, prompt核心教程, prompt代码教程, prompt菜鸟教程, prompt命令教程, prompt使用教程