Prompt is Not Good.

Prompt 这个方法实际上并不是很好

Prompt 可以是in-context learning的一种。prompt-based learning has taken NLP by storm!! prompt-based的方法在NLP中引起风暴。但，Prompt-based的方法实际上不太行：

1. Inefficiency: The prompt needs to be processed every time the model makes a prediction. （每次用model来做预测的时候都需要对prompt进行处理，emmm，我不清楚这个是什么过程？）

2. Poor performance: Prompting generally performs worse than fine-tuning [Brown et al., 2020]. （prompt的结果通常是要比fine-tuning的结果要差很多的）

3. Sensitivity to the wording ofthe prompt [Webson & Pavlick, 2022], order of examples [Zhao et al., 2021 ; Lu et al., 2022], etc. （对prompt的措辞具有敏感性）

4. Lack of clarity regarding what the model learns from the prompt. Even random labels work [Min et al., 2022]!（缺乏清晰度，这里是说prompt即使是使用random labels，也能够起作用，这就不禁让人质疑prompt了 emmm）

prompt tuning 在一些比较小的model size上和一些比较困难的task上表现不好！！！