我整理了1000道算法面试题，可以在下面的地方获取，面试题还是有点多的

P-tuning、Prompt-tuning和Prefix-tuning区别是什么？

prefix-tuning对比P-tuning：Prefix-Tuning是将额外的embedding加在开头，看起来更像模仿Instruction指令，而P-Tuning位置不固定；Prefix-Tuning通过在每个层都添加可训练参数，通过MLP初始化，而P-Tuning只在输入的时候加入embedding，并通过LSTM或MLP初始化。

prefix-tuning对比Prompt-tuning：Prompt Tuning方式可以看做是Prefix Tuning的简化，只在输入层加入 prompt tokens，并不需要加入MLP进行调整（MLP处理prefix得到hidden state）来解决难训练的问题。

P-tuning和Prompt-tuning的区别: P-Tuning在输入的时候加入embedding，并通过LSTM或MLP初始化，且位置不固定，后续的版本中在每个层也都加了embedding，而prompt-tuning值在输入加上虚拟的token来学习，还不是自由参数形式。

参考：
[1] https://zhuanlan.zhihu.com/p/682938889 [2] https://zhuanlan.zhihu.com/p/720161549