NeurIPS 2025|CAKE:大模型驱动的贝叶斯优化新配方,让黑箱优化更智能、更高效
来自香港中文大学(深圳)、UIUC和雅典大学的研究团队提出CAKE框架,利用大语言模型(LLM)在贝叶斯优化中动态演化高斯过程的核函数。该方法通过LLM驱动的“交叉”与“变异”机制生成适应性强的核结构,并结合BAKER策略平衡拟合度与探索潜力。在60个超参数优化任务、控制器调参与光子芯片设计等复杂场景中,CAKE显著优于传统方法,样本效率更高,求解速度提升近十倍。尽管引入LLM增加计算开销,但整体评估次数减少使总成本更低。研究还展示了CAKE的可解释性和未来兼容性,为自动化科学发现提供了新路径。来源:https://mp.weixin.qq.com/s/ccVEaQJDSH9gWVH_Vxx8CA
页:
[1]