Loading...
Édition du contexte et effacement des résultats d'outils(CETC)
Une primitive au niveau du harnais ou de l'API qui expulse automatiquement le contenu obsolète de la fenêtre de contexte active dès qu'un seuil de tokens est franchi, le plus souvent en remplaçant chirurgicalement d'anciens blocs tool_result par de courts espaces réservés tout en conservant intact l'enregistrement tool_use correspondant. Comme les lectures de fichiers, les résultats de recherche et les vidages d'API peuvent être récupérés à nouveau, ils sont supprimés sans aucun coût d'inférence et rechargés uniquement si un tour ultérieur en a réellement besoin, ce qui maintient le préfixe du KV-cache stable et contrecarre la dégradation du contexte lors des longues boucles. Anthropic propose cela sous les noms clear_tool_uses_20250919 et compact_20260112, avec une réduction de tokens signalée d'environ 84 % sur une évaluation de recherche web à 100 tours et un gain de performance de 29 à 39 %. À distinguer de `context-compress-patterns` : l'effacement expulse sans perte des résultats bruts récupérables au lieu de les résumer avec perte ; contrairement à `filesystem-as-context`, il ne nécessite aucune étape explicite de déchargement sur disque, et contrairement à `memory-forgetting-policies`, il ne s'agit pas de faire décliner la mémoire à long terme mais d'élaguer la fenêtre de travail.
In 30 seconds
- What
- Retire automatiquement du contexte les anciennes charges utiles de résultats d'outils à l'approche des limites de jetons, en les remplaçant par des marqueurs tout en conservant la trace des appels d'outils.
- When to use
- Pour des boucles d'agent au long cours où les résultats d'outils s'accumulent plus vite qu'ils ne sont consommés et où ces résultats restent récupérables depuis des sources externes.
- Watch out
- Si un résultat effacé est nécessaire sans possibilité de relancer l'outil, le marqueur brise la cohérence de la transcription et impose une nouvelle récupération.
Loading technique guide…