周大 发表于 2024-8-15 15:18:36

成本降低90%!Claude上新Gemini同款提示词缓存,一次性记住整个代码库

Claude推出API更新,新增长文本缓存功能,可记住整本书或代码库内容,显著提升处理速度,最多降低79%延迟,成本节省可达90%。此功能支持多种应用场景,如对话、代码辅助等。初始写入成本相对较高,但读取成本仅为输入成本的十分之一,随调用次数增加,成本优势更明显。
来源:https://mp.weixin.qq.com/s/ATlZWOrrlaTHlYYX5ajrSw
页: [1]
查看完整版本: 成本降低90%!Claude上新Gemini同款提示词缓存,一次性记住整个代码库