Nytt fra Anthropic: Message threads gjør lange agentøkter raskere

Nytt fra Anthropic: Message threads gjør lange agentøkter raskere

Nytt fra Anthropic: Message threads gjør lange agentøkter raskere

Den 2. november åpnet Anthropic message threads i Messages API, i offentlig beta. Fram til nå har en agent sendt hele samtalen på nytt i hver eneste runde, og API-et har lest og tokenisert alt en gang til. Med en tråd sender du samtalen én gang, og etterpå bare det som er nytt.

Dette er nytt:

  • Første kall er som før, med systemprompt og verktøy, pluss "thread": {"type": "create"}. Neste kall sender bare de nye meldingene og id-en på forrige svar.
  • Tråden ligger i minnet på serveren, kryptert og ikke på disk. Den utløper 5 minutter etter siste kall, og da sender du hele samtalen på nytt. SDK-hjelperen gjør det for deg.
  • Du betaler det samme. Claude leser fortsatt hele samtalen hver runde, det er opplastingen og valideringen som blir mindre. Prompt caching må du fortsatt be om selv.

For oss som bruker Claude Code er dette allerede på for de fleste. Anthropic skriver at på forespørsler med 500k til 1M tokens faller median tid til første token med rundt 35 prosent. Det er de lange øktene det hjelper mest på, feks en agent som sitter i en lang verktøyløkke, eller computer use der skjermbildene hoper seg opp.

Slik prøver du det:

  1. Send beta-headeren message-threads-2026-08-12 på hvert kall i tråden.
  2. Bruk trådhjelperen i SDK-et, så slipper du å holde orden på id-er og replay selv.
  3. Behold din egen kopi av samtalen. API-et sier ikke fra om en runde ble lagret, det finner du ut på neste kall.

Tilgjengelig på Claude Platform, AWS, Microsoft Foundry og Google Cloud, til vanlige tokenpriser.

Har du lange agentløkker som kunne trengt dette? Del gjerne i kommentarfeltet.

Les mer hos Anthropic · Dokumentasjon
Bilde: Anthropic.