Distillation de modèle
Payez moins par appel, avec un modèle à vous
Nous distillons vos appels LLM coûteux dans un petit modèle open-weight, entraîné sur votre propre trafic et testé face au modèle que vous utilisez aujourd’hui.
2 900 € par tâche, prix fixe. Vous ne payez que s’il est au niveau de votre modèle actuel sur vos propres exemples mis de côté.
Comment ça marche
1
Vous envoyez un échantillon d’appels réels
Les entrées et les sorties de votre modèle actuel. Si vous n’avez que les entrées, nous les étiquetons avec votre modèle actuel si les conditions de son fournisseur le permettent, sinon avec un modèle open-weight.
2
Nous entraînons un petit modèle et le testons
Nous entraînons un petit modèle open-weight sur votre échantillon, puis le testons face à votre modèle actuel sur des exemples qu’il n’a jamais vus.
3
Vous voyez les chiffres, puis vous décidez
Un rapport écrit met la qualité et le coût par appel côte à côte. Vous ne payez que s’il est au niveau.
Votre tâche s’y prête-t-elle ?
Un bon candidat
Une tâche répétitive, exécutée en volume :
- Classification
- Extraction
- Routage
- Résumé
- Sortie structurée
Pas adapté, et nous vous le dirons
Si votre tâche relève de l’un de ces cas, nous vous le disons franchement :
- Le raisonnement ouvert
- Les tâches qui changent chaque semaine
- Les petits volumes, où les économies ne couvriraient pas le prix
Faites-le tourner à votre façon
À vous de choisir, une fois le modèle au niveau.
Les poids et une configuration de service
Vous recevez les poids du modèle et une configuration de service prête à l’emploi, à faire tourner où vous voulez.
Nous l’hébergeons
Nous le faisons tourner pour vous, contre un abonnement mensuel séparé, calculé selon votre volume.
Questions
- De quoi avez-vous besoin ?
- Un échantillon d’appels réels : les entrées, et les sorties que votre modèle actuel leur donne. Si vous n’avez que les entrées, nous les étiquetons avec votre modèle actuel si les conditions de son fournisseur le permettent, sinon avec un modèle open-weight.
- Quels modèles sont concernés ?
- De votre côté, le modèle que vous appelez aujourd’hui : nous travaillons à partir de ses entrées et de ses sorties. Du nôtre, un petit modèle open-weight entraîné sur votre échantillon. Vous récupérez les poids, ou nous l’hébergeons pour vous.
- Pouvez-vous entraîner sur les sorties de mon fournisseur actuel ?
- Seulement si les conditions de votre fournisseur le permettent. Certains fournisseurs limitent l’usage de leurs sorties pour entraîner d’autres modèles, c’est pourquoi nous vérifions ces conditions avec vous avant de commencer. Si elles le limitent, nous étiquetons votre échantillon avec un modèle open-weight à la place, et c’est toujours la comparaison avec votre modèle actuel qui décide si vous payez.
- Comment décide-t-on qu’il est « au niveau » ?
- Avant tout travail, nous convenons avec vous, par écrit, de ce qui compte comme « au niveau » pour votre tâche. Le petit modèle est ensuite testé face à votre modèle actuel sur vos propres exemples mis de côté, qu’il n’a jamais vus à l’entraînement. S’il n’atteint pas ce critère, vous ne payez pas.
- Que deviennent nos données ?
- Elles servent uniquement à construire votre modèle et sont supprimées à la fin du projet.
Prix
2 900 € par tâche, prix fixe
Vous ne payez que si le petit modèle est au niveau de votre modèle actuel sur vos propres exemples mis de côté.
Ce qui compte comme « au niveau » est convenu par écrit avant le début du travail.
Vos données servent uniquement à votre modèle et sont supprimées à la fin du projet.
Pour commencer
Parlez-nous des appels que vous voulez payer moins cher
Quelques lignes suffisent. Vous recevez une réponse personnelle sous un jour ouvré, de l’ingénieur qui réaliserait la mission.