Monde de la tech

Nouveau record de performance en intelligence artificielle avec NVIDIA GB200

Traduit automatiquement·Voir l’original

Can KepenekoğluAuteur

31 décembre 2025

4 min de lecture

Enregistrer

Nvidia a commencé à changer d'équilibre dans le matériel d'intelligence artificielle grâce à son architecture nouvellement développée. Dans ce processus, Blackwell continue de mentionner son nom dans l'environnement AI avec son architecture. L'entreprise a spécifiquement signalé que les performances obtenues dans les modèles basés sur Moe(coman mix) ont augmenté jusqu'à 10 fois.

GB200 non seulement en tant qu'outil gpu, mais dans cette forme nouvellement développée, la formation de serveurs d'intelligence artificielle est stratégiquement rompue. Les systèmes NVL72 de Blackwell déterminent de nouveaux standards en échelles, vitesse et efficacité.

Qu'est-ce que le mélange d'experts (MoE) et pourquoi critique?

MoE est une approche architecturale qui permet à chaque requête d'exécuter tous les paramètres en même temps dans un modèle d'intelligence artificielle, car il peut également être compris du nom du mélange expert. Cette structure accroît la cohérence contextuelle tout en réduisant le coût de calcul en général, si nous voulons dire important. Mais si nous regardons d'un autre côté, ces modèles nécessitent une bande passante élevée, une faible latence et une forte capacité de traitement parallèle. On observe presque des améliorations ou de nouveaux modèles dans les infrastructures d'intelligence artificielle. Point complet Nvidia GB200Un bond important est fait par rapport à l'architecture Hopper utilisée en premier.

Commutateur de performances évolutives avec Blackwell NVL72

L'architecture Blackwell NVL72 est le facteur le plus important qui crée réellement l'infrastructure du système du MOE. GB200 permet 72 pcs pour travailler avec une seule logique avec une infrastructure NVLink haute vitesse. De cette façon Échelle du modèle Il est possible de dire qu'il fonctionne sans interruption dans le flux de fonctionnement dans les scénarios. Il élimine également les problèmes comme la création d'un goulot d'étranglement. Selon les données de performance spécifiées, les systèmes NVL72 offrent une performance de sortie élevée d'environ 10 fois selon le système basé sur Hopper dans les travaux MoE.

Il n'est pas vrai d'appeler cette augmentation de performance seulement comme puissance brute. Pour donner des détails, cette puissance architecturale est tirée d'un large éventail de composants. Dans l'architecture Blackwell, il existe une zone d'utilisation et de performance combinée avec une mémoire optimisée des mécanismes hébergés dans son infrastructure, la nouvelle génération Tensor Cores.

Comparaison GB200 et Hopper: Où fait-elle la différence?

Lorsque nous comparons les deux architectures à notre front et que nous comparons, les différences sont plus claires. Bien que l'architecture de Hopper repose sur des bases solides dans les travaux du Ministère de l'énergie, nous ne passerons pas les coûts de communication dans les opérations à grande échelle, sans dire que plus de coûts énergétiques sont installés. Nous parlerons des différences fondamentales de Gb200 en bref;

• Bande passante NVLink supérieure
• Hiérarchie de la mémoire avancée
• Faible retard dans l'acheminement des spécialistes du Ministère de l'environnement
• Étiquettes à rendement sévère plus par watt

Par conséquent, les différences sont supprimées. Après tout, grâce à Gb200, il est possible de dire que les LLM à grande échelle sont avérés pour fournir plus d'efficacité avec moins de matériel.

Kimi K2 Penser LLM et MoE Force pratique

Si nous obtenons les performances du système, nous pouvons voir qu'il ne se montre que dans des modèles réels, pas dans les tests. Kimi K2 LLM C'est l'une des caractéristiques les plus remarquables de l'architecture utilisée. Kimi K2 utilise activement l'approche du MoE grâce à sa résolution de structures complexes, sa grande capacité de raisonnement et ses fonctionnalités de réflexion en plusieurs étapes. Ci-dessous, nous voyons l'ancienne et nouvelle différence de modèle comme tableau.

Titre	NVIDIA GB200 (Blackwell NVL72)	Hopper NVIDIA (H100/H200)
Génération architecturale	Blackwell (Nouvelle génération)	Hopper (génération précédente)
Charge de travail cible	LLMs basés sur le Ministère de l'éducation, raisonnement (réaction de l'IA)	Des LLM monomodèles intenses
Performance du Ministère de l ' environnement	Jusqu'à 10 étages (exécution spécialisée sélective)	Échelle limitée du Ministère de l ' environnement
Mélange d'experts Efficacité	Les experts travaillent en parallèle et dynamique	Des experts aux coûts de transition
NVLink / Structure du système	NVL72: fonctionne comme 72 GPU système unique	Clusters NVLink plus petits Accueil
Bande passante mémoire	Beaucoup plus haut, notre choix pour MoE News	Haut mais en MoE vous pouvez créer un goulot d'étranglement
Énergie / Taux de performance	Plus de production symbolique dans la même puissance	Financement par watt supérieur Mots clés
Échelle du modèle	Paramètre Trilyon Modèles MoE facile	Efficacité accrue des grands modèles
Raisonnement (penser LLM)	Idéal pour penser des modèles comme Kimi K2	Limité dans les modèles d'exécution mentale
Mots clés Finances par jeton	Faible (avec calcul d'option)	Haute (œuvres de modèle complètes)
Compatibilité du centre de données	Supersets AI de nouvelle génération	Architectures classiques des serveurs AI Accueil
Carte routière à long terme	Avenir du Ministère de l ' environnement et des agents	Il est positionné comme une architecture de passe

NVIDIA commence l'âge du MoE avec GB200

Blackwell NVL72 performance affecte non seulement les flux d'affaires pour les centres de recherche, mais aussi les investissements en intelligence artificielle pour les centres d'entreprise. Depuis l'année où nous en sommes particulièrement, les étapes de développement des infrastructures et des serveurs sont mises en place presque tous les mois pour développer un nouveau développement. L'augmentation de la capacité des entreprises et les gains importants découlant des angles d'efficacité énergétique en utilisant moins de serveurs continueront d'être une journée dans le monde de la technologie. Selon ces passes d'étape, Nvidia n'est pas seulement positionné comme un fabricant de matériel. Si nous examinons les données du marché de l'entreprise, nous sommes à la plus grande entreprise technologique du monde. L'IA basée sur la société MoE est le principal architecte dans l'élaboration de stratégies.

Nvidia a commencé à changer d'équilibre dans le matériel d'intelligence artificielle grâce à son architecture nouvellement développée. Dans ce processus, Blackwell continue de mentionner son nom dans l'environnement AI avec son architecture. L'entreprise a spécifiquement signalé que les performances obtenues dans les modèles basés sur Moe(coman mix) ont augmenté jusqu'à 10 fois. GB200 non seulement en tant qu'outil gpu, mais dans cette forme nouvellement développée, la formation de serveurs d'intelligence artificielle est stratégiquement rompue. Les systèmes NVL72 de Blackwell déterminent de nouveaux standards en échelles, vitesse et efficacité. Qu'est-ce que le mélange d'experts (MoE) et pourquoi critique? MoE est une approche architecturale qui permet à chaque requête d'exécuter tous les paramètres en même temps dans un modèle d'intelligence artificielle, car il peut également être compris du nom du mélange expert. Cette structure accroît la cohérence contextuelle tout en réduisant le coût de calcul en général, si nous voulons dire important. Mais si nous regardons d'un autre côté, ces modèles nécessitent une bande passante élevée, une faible latence et une forte capacité de traitement parallèle. On observe presque des améliorations ou de nouveaux modèles dans les infrastructures d'intelligence artificielle. Point complet Nvidia GB200 Un bond important est fait par rapport à l'architecture Hopper utilisée en premier. Commutateur de performances évolutives avec Blackwell NVL72 L'architecture Blackwell NVL72 est le facteur le plus important qui crée réellement l'infrastructure du système du MOE. GB200 permet 72 pcs pour travailler avec une seule logique avec une infrastructure NVLink haute vitesse. De cette façon Échelle du modèle Il est possible de dire qu'il fonctionne sans interruption dans le flux de fonctionnement dans les scénarios. Il élimine également les problèmes comme la création d'un goulot d'étranglement. Selon les données de performance spécifiées, les systèmes NVL72 offrent une performance de sortie élevée d'environ 10 fois selon le système basé sur Hopper dans les travaux MoE. Il n'est pas vrai d'appeler cette augmentation de performance seulement comme puissance brute. Pour donner des détails, cette puissance architecturale est tirée d'un large éventail de composants. Dans l'architecture Blackwell, il existe une zone d'utilisation et de performance combinée avec une mémoire optimisée des mécanismes hébergés dans son infrastructure, la nouvelle génération Tensor Cores. Comparaison GB200 et Hopper: Où fait-elle la différence? Lorsque nous comparons les deux architectures à notre front et que nous comparons, les différences sont plus claires. Bien que l'architecture de Hopper repose sur des bases solides dans les travaux du Ministère de l'énergie, nous ne passerons pas les coûts de communication dans les opérations à grande échelle, sans dire que plus de coûts énergétiques sont installés. Nous parlerons des différences fondamentales de Gb200 en bref; Bande passante NVLink supérieure Hiérarchie de la mémoire avancée Faible retard dans l'acheminement des spécialistes du Ministère de l'environnement Étiquettes à rendement sévère plus par watt Par conséquent, les différences sont supprimées. Après tout, grâce à Gb200, il est possible de dire que les LLM à grande échelle sont avérés pour fournir plus d'efficacité avec moins de matériel. Kimi K2 Penser LLM et MoE Force pratique Si nous obtenons les performances du système, nous pouvons voir qu'il ne se montre que dans des modèles réels, pas dans les tests. Kimi K2 LLM C'est l'une des caractéristiques les plus remarquables de l'architecture utilisée. Kimi K2 utilise activement l'approche du MoE grâce à sa résolution de structures complexes, sa grande capacité de raisonnement et ses fonctionnalités de réflexion en plusieurs étapes. Ci-dessous, nous voyons l'ancienne et nouvelle différence de modèle comme tableau. Titre NVIDIA GB200 (Blackwell NVL72) Hopper NVIDIA (H100/H200) Génération architecturale Blackwell (Nouvelle génération) Hopper (génération précédente) Charge de travail cible LLMs basés sur le Ministère de l'éducation, raisonnement (réaction de l'IA) Des LLM monomodèles intenses Performance du Ministère de l ' environnement Jusqu'à 10 étages (exécution spécialisée sélective) Échelle limitée du Ministère de l ' environnement Mélange d'experts Efficacité Les experts travaillent en parallèle et dynamique Des experts aux coûts de transition NVLink / Structure du système NVL72: fonctionne comme 72 GPU système unique Clusters NVLink plus petits Accueil Bande passante mémoire Beaucoup plus haut, notre choix pour MoE News Haut mais en MoE vous pouvez créer un goulot d'étranglement Énergie / Taux de performance Plus de production symbolique dans la même puissance Financement par watt supérieur Mots clés Échelle du modèle Paramètre Trilyon Modèles MoE facile Efficacité accrue des grands modèles Raisonnement (penser LLM) Idéal pour penser des modèles c

Can KepenekoğluAuteur

@CanKepenekoglu