跳到正文
The Decoder· Matthias Bastian·· 5 天前AI 评分43

Anthropic Message Threads 缩短长对话首 token 时间 35 percent

Anthropic's Message Threads cut time to first token by 35 percent for long conversations

AI 导读

Anthropic 在 Claude 平台公开发布 Message Threads 公共 Beta,该功能仅传输自上次消息以来的变化内容,使 500,000 到 100 万 token 范围内的请求首 token 时间缩短约 35 percent。

来源:The Decoder · the-decoder.com