Finetuning with Sampling 深度解读:不动损失函数,改数据分布
解读 Karan、Chen 与 Du 的论文 Finetuning with Sampling:用 MCMC 投影采样把离线专家数据改造得更接近基座模型分布,让 SFT 泛化更好、遗忘更少,正面挑战 RL 后训练的主流叙事。 ...
解读 Karan、Chen 与 Du 的论文 Finetuning with Sampling:用 MCMC 投影采样把离线专家数据改造得更接近基座模型分布,让 SFT 泛化更好、遗忘更少,正面挑战 RL 后训练的主流叙事。 ...