OpenAI开发者大会推出四大创新：提示词缓存可减少50%输入token成本

OpenAI在其年度开发者大会上推出了实时API、视觉微调、提示词缓存和模型蒸馏四项新技术。这些创新旨在降低开发成本，提高模型性能，尤其是视觉理解和语音AI功能。例如，Grab利用视觉微调提高了地图服务的准确性。此外，模型蒸馏使得小型企业也能以较低成本获得先进模型的能力。
来源：https://www.chinaz.com/2024/1002/1645491.shtml