OpenAI fait sortir son API Decisions de la phase de bêta publique. Dévoilée lors du DevDay de l’entreprise le 29 septembre, cette interface répond à un besoin précis : permettre aux applications et aux agents de prendre rapidement de petites décisions au fil d’un workflow. Le modèle s’inscrit dans la catégorie des modèles dits « de décision », un créneau qu’a popularisé Jev, le modèle de la startup TypeSafe AI.
Une API qui tranche au lieu de rédiger
Selon OpenAI, le problème tient au cumul : « Les applications et les agents prennent de nombreuses petites décisions tout au long d’un workflow. Individuellement, elles sont simples. À grande échelle, leur latence et leur coût s’additionnent. » Un modèle de décision vise donc à répondre vite et à moindre coût.
Concrètement, un développeur formule une question, définit les réponses autorisées et fournit le contexte, sous forme de texte ou d’images. L’API ne génère aucun texte. Elle renvoie une réponse typée, que l’application utilise pour déclencher l’étape suivante. Trois formats sont proposés :
Predicate : la probabilité, comprise entre 0 et 1, qu’une condition soit vraie, par exemple la présence d’un dommage visible sur la photo d’un produit.
Choice : une option parmi une liste fixée par le développeur, accompagnée de probabilités et d’un indice de confiance. Un agent peut ainsi choisir entre poursuivre sa tâche, réessayer ou demander une précision.
Score : une note sur une grille de niveaux ordonnés, comme la gravité d’un dommage.
Une même requête peut désormais regrouper jusqu’à 400 questions, soit deux fois plus qu’en bêta. Toutes portent sur le même contenu et sont évaluées indépendamment, si bien qu’une question dépendant de la réponse à une autre demande une requête distincte.
Sur le plan technique, OpenAI n’a pas entraîné de modèle spécifique. L’API s’appuie sur GPT-6 Luna, reconfiguré pour accélérer l’inférence, c’est-à-dire le calcul de la réponse. Selon l’entreprise, elle concentre « l’intelligence de Luna sur des questions aux réponses délimitées » et rend ses décisions jusqu’à 10 fois plus vite que Luna lorsqu’il est interrogé via l’API Responses.
Ce qui a changé depuis la bêta
Depuis la bêta, l’API a gagné plusieurs fonctions. Elle accepte désormais des entrées en JSON natif, ainsi que des images intégrées directement aux instructions d’une question. Le prompt caching réutilise la partie commune d’une requête, comme un document de référence, afin d’éviter de la traiter à chaque fois.
OpenAI ajoute également le traitement de l’inférence aux États-Unis ou dans l’Union européenne, en complément du Zero Data Retention proposé aux clients éligibles. Enfin, l’API s’intègre nativement à GPT-Live, le modèle dédié aux conversations vocales. Un agent de support client peut ainsi décider, en pleine conversation, s’il doit poser une question de clarification ou transmettre la demande à un humain.
Tarifs et comparaison avec Jev
L’API Decisions est facturée 0,10 $ par million de tokens en entrée et 0,01 $ par million de tokens en cache. Les tokens en sortie ne sont pas facturés. L’écriture en cache, pour une durée de 30 minutes ou de 12 heures, fait l’objet d’une tarification distincte, et le traitement régional peut entraîner un surcoût.
Le fonctionnement rappelle celui de Jev, qui propose les mêmes trois types de questions, le « predicate » d’OpenAI correspondant au « Noul » de Jev, avec une facturation limitée aux tokens en entrée. L’approche diffère pourtant : TypeSafe AI a conçu une architecture et une méthode d’entraînement dédiées, alors qu’OpenAI adapte un modèle de langage existant. L’écart porte aussi sur le prix, puisque l’API Decisions coûte plus de deux fois plus cher que Jev, facturé 0,042 $ par million de tokens en entrée lors de son lancement.
La prise en charge des images, en revanche, ne distingue plus les deux offres, TypeSafe AI l’ayant ajoutée à Jev dans sa dernière version. Sur deux classements indépendants consacrés aux modèles de décision, l’AIM System One Index et l’Artificial Analysis Decision Index, le modèle d’OpenAI se classerait derrière Jev, les deux étant dominés par D1 Ultra, de Liquid, et Elephant-1, de Base Lab. OpenAI propose par ailleurs de tester son API sur des exemples tirés d’usages réels, notamment dans son Decisions Playground, et met à disposition la documentation destinée aux développeurs.
Product offers are temporarily unavailable.
