Architectures de modèles
Systèmes utilisant des outils et du raisonnement
Placez un modèle au sein d’un contrôleur capable de planifier, d’appeler des outils typés, d’inspecter les résultats, de réviser, de vérifier, d’arrêter et de passer le contrôle à une personne.
Modèle mental
Le modèle propose ; l'environnement d'exécution valide et exécute. "Modèle de raisonnement" est une description du comportement/de l'entraînement/de l'environnement d'exécution, et non une topologie neuronale unique.
Flux de données
- Objectif + politique + état
- Le modèle propose une réponse ou une action typée
- Validation du schéma / des autorisations
- Exécution de l’outil dans un environnement limité
- Observation → continuer, vérifier ou arrêter
Entraînement
Les démonstrations d'outils, les traces de raisonnement supervisées, le retour sur résultat ou processus, l'apprentissage par renforcement et les tâches vérifiables peuvent façonner le comportement. L’échafaudage au moment de l'exécution reste nécessaire même lorsque le modèle de base est affiné pour l'utilisation d'outils.
Exécution de l’inférence
Le contrôleur peut effectuer plusieurs appels au modèle et plusieurs opérations d’outil pour une même tâche. Les budgets, échéances, garanties d’idempotence, points d’approbation et conditions d’arrêt explicites bornent la boucle.
Atouts
- Accès aux données actuelles, aux calculateurs, au code et aux systèmes d'entreprise
- Peut décomposer, inspecter et vérifier des travaux en plusieurs étapes
- Les interfaces typées rendent explicites les capacités et les autorisations
Compromis
- Latence, coût et modes de défaillance plus importants qu’un seul appel de modèle
- La sortie des outils et le contenu web récupéré sont des entrées non fiables
- Les boucles, les effets secondaires répétés et l'autorité excessive créent des risques opérationnels
À utiliser lorsque
- La tâche nécessite des actions ou des informations en dehors des poids du modèle
- Les résultats intermédiaires peuvent être validés
- Les autorisations, les budgets, les nouvelles tentatives et l’approbation humaine sont explicites
À éviter ou remettre en question lorsque
- Un seul appel d'API déterministe résout la tâche
- L’agent recevrait des identifiants larges sans confinement
- Il n’y a pas d’évaluation pour les boucles, les erreurs d’outil ou les actions dangereuses
Familles publiées à titre d’exemple
- • Boucle raison-agir de type ReAct
- • Approche de recherche Toolformer
- • Motifs planificateur–exécuteur et vérificateur