RIP进化算法助力LLM数据筛选

Meta等机构提出了一种名为拒绝指令偏好（RIP）的新方法，用于自动筛选和创建高质量的数据集。该方法基于进化算法，通过评估低质量提示产生的响应差异来筛选数据。实验结果显示，使用RIP过滤后的提示词集合能显著提升大型语言模型（LLM）的性能，特别是在人类编写的提示上表现优异。与其他筛选方法相比，RIP在多个基准测试中均取得更高分数。未来研究可进一步优化RIP以降低计算成本并提高安全性。
来源：https://mp.weixin.qq.com/s/NdcysBp8NnE8vtFgUsnK9A