Prompt Learning

Prompt Learning是一种基于预训练模型的新范式，旨在通过提供特定任务的提示信息来指导模型学习，从而提高模型在少样本或无样本情况下的性能。‌ 这种学习方法不需要大量的标注数据，能够在低资源场景中表现出色‌。

Prompt Learning的背景可以追溯到NLP（自然语言处理）的四大范式。最初的范式是基于传统机器学习模型的监督学习，随后是深度学习模型的监督学习，然后是预训练模型加微调的范式，最后是预训练模型加提示加预测的范式。Prompt Learning是在预训练模型的基础上，通过提供提示信息来帮助模型更好地理解和执行下游任务‌。

Prompt Learning的核心思想是通过定义一个提示模板，这个模板包含了一些提示信息，如关键词、短语或句子。将这些提示与训练数据一起输入模型进行训练，然后在预测时使用相同的提示模板来指导模型做出决策。这种方法不仅提高了模型的性能，还使得模型在缺乏标注数据的情况下仍然能够表现出色‌。

在实际应用中，Prompt Learning已经展示了其潜力。例如，在GPT和BERT等预训练模型的基础上，通过添加适当的提示，模型能够在零样本或少量样本的情况下完成各种NLP任务，如文本分类、问答等。这种方法不仅提高了模型的泛化能力，还减少了对大量标注数据的依赖‌.

Learning Prompt - 基于预训练模型的新范式