La guerre des clones a commencé.

C’est un ancien d’OpenAI qui le dit. Il dirige désormais TypeSafe AI. Cette start-up a acquis une certaine aura depuis qu’elle est sortie du bois mi-septembre. Le produit qui lui a valu cette attention s’appelle Jev. Une référence à l’économiste britannique Willam Stanley Jevons (1835-1882). Lequel a théorisé l’idée que plus les progrès techniques permettent d’utiliser une ressource efficacement, plus la consommation de cette ressource a tendance à augmenter.

Il y a effectivement en Jev la promesse d’un usage plus efficace… des tokens, en l’occurrence. À travers lui, TypeSafe AI pousse une nouvelle typologie de modèle, à cheval entre LLM et classifieurs. Dite System One, elle ne produit pas de texte, mais des « décisions calibrées ». Plus précisément, des réponses structurées à trois types de questions cadrées :

• Sélectionner des options dans une liste finie
• Distribuer les scores de probabilité sur un échantillon déterminé
• Évaluer si un élément est vrai ou faux

Chaque question a sa primitive (respectivement Choice, Score et Noul). On peut les combiner dans un même appel. Elles sont traitées en parallèle, mais isolément pour éviter la contamination du contexte.

Le nom TypeSafe AI est une allusion à la sûreté du typage, une propriété qui garantit qu’un programme n’utilise pas les données de manière incorrecte par rapport à leur type (par exemple, essayer de multiplier un prix par une date). Il reflète la promesse de l’approche System One : obtenir des réponses que les machines peuvent directement utiliser… et traiter plus simplement que des réponses de LLM, avec davantage de fiabilité (grâce aux scores de confiance embarqués), moins de latence et un coût inférieur (pour Jev, « sous les 100 ms pour la plupart des requêtes », à raison de 0,042 $ par million de tokens en entrée).

Le scénario de sélection dans une liste finie peut, par exemple, aider à transmettre une demande client vers la bonne équipe. Le scoring de probabilité, à mesurer son niveau de frustration. L'évaluation vrai/faux, à savoir si la demande implique ou non un remboursement. Dans un système agentique, l'ensemble peut servir tant au routage des requêtes qu'à la sélection d'outils, la vérification d'arguments ou l'application de garde-fous.

Les modèles System One se prêtent dans tous les cas à des réponses rapides - du genre qu'un humain averti donnerait instantanément, explique TypeSafe AI. On les combinera éventuellement à des vérifications déterministes dans le code.

La démarche a inspiré AWS, qui en a publié sa propre incarnation : Strands Decider. Il avance globalement les mêmes arguments que TypeSafe AI, mais en ajoute un en particulier : l'entraînement nécessite moins d'expertise que pour un classifieur traditionnel.

Cette remarque n'est pas anodine : Strands Decider est open source. Conçu pour un usage en local, il dérive de Qwen3.5-2B. AWS en a repris le tronc (adapté avec LoRA), mais a retiré la tête qui modélise le texte. Il l'a remplacée par une tête de type pointeur qui évalue chaque option.

AWS communique des indicateurs de performance sur le benchmark public JevBench. Sur une RXT 3090 dans WSL2, la dernière version en date de Strands Decider (v19) a un temps de réponse médian d'un peu plus de 100 ms, pour un score global de précision de 0,7229. Sur un MacBook M3 Pro à 36 Go, on passe à 234 ms « à chaud » (requêtes successives).

OpenAI aussi a répliqué, avec l'API Decisions, qui est toutefois en accès limité. Au contraire d'AWS et de TypeSafe AI, il n'a pas développé de modèle spécifique. Sous le capot, il y a GPT Luna, dont on « [concentre] l'intelligence [...] sur un ensemble de précis de questions définies par l'utilisateur, avec un nombre fini de réponses prédéfinies ». Ce choix a un avantage : accepter les images en entrée en plus du texte.

Illustration principale générée par IA