NeurIPS 2025｜CAKE：大模型驱动的贝叶斯优化新配方，让黑箱优化更智能、更高效

来自香港中文大学（深圳）、UIUC和雅典大学的研究团队提出CAKE框架，利用大语言模型（LLM）在贝叶斯优化中动态演化高斯过程的核函数。该方法通过LLM驱动的“交叉”与“变异”机制生成适应性强的核结构，并结合BAKER策略平衡拟合度与探索潜力。在60个超参数优化任务、控制器调参与光子芯片设计等复杂场景中，CAKE显著优于传统方法，样本效率更高，求解速度提升近十倍。尽管引入LLM增加计算开销，但整体评估次数减少使总成本更低。研究还展示了CAKE的可解释性和未来兼容性，为自动化科学发现提供了新路径。
来源：https://mp.weixin.qq.com/s/ccVEaQJDSH9gWVH_Vxx8CA