对于聊天机器人Claude,Anthropic 推出了快速缓存,降低了成本和响应时间.
对于其人工智能聊天机器人Claude,Anthropic推出了一个新功能,即即缓存,将成本降低高达90%,响应时间降低两倍. 该功能使开发商能够储存详细的指令、实例答复和相关信息,使各种规模的复杂项目和企业受益。 目前通过Anthropic的API进行公开测试,Prompt Caching可以提高扩展对话,大型文档处理和编码助手等应用的性能.
August 14, 2024
4 文章
对于其人工智能聊天机器人Claude,Anthropic推出了一个新功能,即即缓存,将成本降低高达90%,响应时间降低两倍. 该功能使开发商能够储存详细的指令、实例答复和相关信息,使各种规模的复杂项目和企业受益。 目前通过Anthropic的API进行公开测试,Prompt Caching可以提高扩展对话,大型文档处理和编码助手等应用的性能.