Veille IA

hardwareinfrastructurebenchmarkllm

OpenAI publie les premiers résultats de sa puce Jalapeño

OpenAI présente les premiers résultats de Jalapeño, sa puce d’inférence développée avec Broadcom. Ses tests font état d’une efficacité énergétique et d’une latence améliorées face aux systèmes NVIDIA GB200 et GB300.

Contexte

OpenAI et Broadcom ont présenté Jalapeño en juin 2026 comme une puce personnalisée destinée à l’inférence des modèles de langue. L’objectif annoncé porte sur le débit, la latence, l’efficacité énergétique et le déploiement à grande échelle dans les systèmes d’OpenAI.

En août, OpenAI a publié une première série de mesures. Latent Space les présente comme l’une des principales annonces de Hot Chips, tout en précisant que la présentation technique complète de l’événement n’était pas encore disponible au moment de son article.

Ce qui change

Selon les tests communiqués par OpenAI et rapportés par Latent Space, Jalapeño exécute entre 1,5 et 1,9 fois plus de travail par watt au débit maximal que des systèmes NVIDIA GB200 et GB300. La latence de bout en bout serait réduite d’un facteur compris entre 1,7 et 3,6.

Pour les charges très interactives, OpenAI avance des performances entre 2,1 et 4,1 fois supérieures. La puce est donnée pour une puissance de 700 W, mais serait restée à 550 W ou moins pendant les essais concernés.

Ces chiffres proviennent des mesures publiées par OpenAI sur des charges de modèles réelles. Les sources fournies ne mentionnent pas de validation indépendante ni de protocole complet permettant de reproduire les comparaisons.

Pourquoi c'est important

Jalapeño marque l’intégration d’un accélérateur d’inférence conçu avec Broadcom dans la stratégie d’infrastructure d’OpenAI. L’entreprise indique que son déploiement dans sa propre infrastructure doit commencer avant la fin de l’année.

Les résultats mettent l’accent sur le travail effectué par watt et la latence plutôt que sur la seule puissance de calcul théorique. Ces critères influencent directement la capacité à servir des charges interactives, la densité des déploiements et les contraintes énergétiques des centres de données.

OpenAI indique également qu’une deuxième génération est déjà à un stade avancé de développement et qu’une troisième est en préparation. L’évaluation de Jalapeño dépendra toutefois de benchmarks plus détaillés, de la disponibilité du protocole de test et de mesures externes.

Sources