大模型偏好对齐：从PPO到DPO

参考文章：大模型优化利器：RLHF之PPO、DPO

强化学习在大语言模型上的重要作用可以概括为以下...

参考文章：使用 LoRA 和 QLoRA 微调 LLMs：来自数百次实验的见解 - Lightning AI — Finetuning LLMs with LoRA and QLoRA: Insights from Hundreds ...

Prompt Tuning & Delta Tuning

• 为了使PLM能够在下游任务中取得良好的性能，需要进行微调。但是呢？不同类型的下游任务特性不同，导致需要考虑怎么针对PLM进行微调。这里面就包含如何将训练...

NLP & Big Model Basics（GPU server，Linux，Bash，Conda，…）

什么是自然语言处理

NLP是让计算机能够理解人类语言的技术，或者说是手段。语...

在引人入胜的大型语言模型（LLM）世界中，模型架构、数据处理和优化备受关注。然而，在文本生成中发挥关键作用的解码策略，如beam search，却常被忽视。在本文中，我们将通过深入研究greedy search 、 beam search, 和 sampling techniques with top-k and nucleus sampling，探索 LLM 如何生成文本。

参考资料：