Nuevo registro en el rendimiento de inteligencia artificial con NVIDIA GB200
Traducido automáticamente
AutorNvidia comenzó a cambiar los equilibrios en hardware de inteligencia artificial gracias a su arquitectura recientemente desarrollada. En este proceso, Blackwell sigue mencionando su nombre en el entorno AI con su arquitectura. La empresa informó específicamente que el rendimiento obtenido en los modelos basados en Moe(coman mix) aumentó hasta 10 veces.
GB200 no sólo como una herramienta gpu, sino que en esta nueva forma desarrollada, la formación del servidor de inteligencia artificial se rompe estratégicamente. Los sistemas Blackwell NVL72 determinan un nuevo estándar en escalas y velocidad y eficiencia.
¿Qué es la mezcla de expertos (MoE) y por qué crítico?
MoE es un enfoque arquitectónico que permite que cada consulta ejecute todos los parámetros al mismo tiempo en un modelo de inteligencia artificial, ya que también puede entenderse por el nombre de la mezcla de expertos. Esta estructura aumenta la consistencia contextual al tiempo que reduce el costo de cálculo en general, si vamos a decir importante. Pero si miramos por otro lado, estos modelos requieren alta ancho de banda, baja latencia y fuerte capacidad de procesamiento paralelo. Casi mejoras o nuevos modelos se observan en infraestructuras de inteligencia artificial. Punto completo Nvidia GB200Se hace un salto significativo en comparación con la arquitectura Hopper utilizada primero.
Interruptor de rendimiento escalable con Blackwell NVL72
Blackwell NVL72 arquitectura es el factor más importante que realmente crea la infraestructura del sistema MoE. GB200 permite a 72 piezas trabajar con una sola lógica con infraestructura NVLink de alta velocidad. De esta manera Escala modelo Es posible decir que funciona sin ninguna interrupción en el flujo de operación en escenarios. También elimina problemas como crear un cuello de botella. Según los datos de rendimiento especificados, los sistemas NVL72 ofrecen un alto rendimiento de producción de aproximadamente 10 veces según el sistema Hopper en obras MoE.
No es cierto llamar a este aumento de rendimiento sólo como energía cruda. Para dar detalles, este poder arquitectónico se toma de una amplia gama de componentes. En la arquitectura de Blackwell, hay una zona de uso y rendimiento combinados con memoria optimizada de mecanismos alojados en su infraestructura, nueva generación Tensor Cores.
Comparación de GB200 y Hopper: ¿Dónde hace diferencia?
Cuando comparamos ambas arquitecturas con nuestro frente y comparamos, las diferencias son más claras. Aunque la arquitectura Hopper se basa en fuertes fundaciones en obras de MoE, no pasaremos los costos de comunicación en operaciones a gran escala, sin decir que se instalan más costos energéticos. Hablaremos de las diferencias básicas de Gb200 en breve;
- Ancho superior de banda NVLink
- Alta jerarquía de memoria
- Low delay in MoE specialist routing
- Severe plus per watt performance Tags
Como resultado, se eliminan las diferencias. Después de todo, gracias a Gb200, es posible decir que los prestamistas de LLM a gran escala son convertidos para proporcionar más eficiencia con menos hardware.
Kimi K2 Pensando en LLM y MoE Práctica fuerza
Si obtenemos el rendimiento de MoE del sistema, podemos ver que sólo se muestra en modelos reales, no en las pruebas. Kimi K2 LLM Esta es una de las características más notables de la arquitectura utilizada. Kimi K2 está utilizando activamente el enfoque MoE gracias a su compleja resolución de estructuras, alta capacidad de razonamiento y características de pensamiento multi-paso. A continuación vemos la vieja y nueva diferencia modelo como tabla.
| Título | NVIDIA GB200 (Blackwell NVL72) | NVIDIA Hopper (H100/H200) |
|---|---|---|
| Generación arquitectónica | Blackwell (Nueva generación) | Hopper (generación anterior) |
| Carga de trabajo de destino | MoE-based LLMs, reasoning (Reasoning AI) | LLM de un solo modelo intenso |
| MoE Performance | Hasta 10 plantas (ejecución especializada selectiva) | Escalabilidad limitada del MoE |
| Mixture of Experts Efficiency | Los expertos trabajan en paralelo y dinámico | De expertos a gastos de transición |
| NVLink / Estructura del sistema | NVL72: Funciona como 72 GPU sistema único | Grupos NVLink más pequeños Inicio |
| Memoria ancho de banda | Mucho más alto, nuestra opción por MoE News | Alto pero en MoE se puede crear un cuello de botella |
| Tasa de energía / rendimiento | Producción más token en el mismo poder | Finanzas por mayor watt Etiquetas |
| Escala modelo | Trilyon parámetro MoE modelos fácil | Mayor eficiencia en modelos grandes |
| Reasoning (Thinking LLM) | Ideal para pensar modelos como Kimi K2 | Limitado en modelos de ejecución mental |
| Finanzas Per Token Etiquetas | Bajo (con cálculo de opción) | Alto (total modelo funciona) |
| Centro de datos Compatibilidad | Nueva generación supersets AI Inicio | Arquitecturas clásicas del servidor AI Inicio |
| Mapa de la carretera a largo plazo | Future MoE and Agentic AI-oriented | Está posicionado como una arquitectura de paso |
NVIDIA comienza la edad del MoE con GB200
Blackwell NVL72 rendimiento afecta no sólo flujos de negocios para centros de investigación, sino también inversiones de inteligencia artificial para centros corporativos. A partir del año estamos especialmente en, las etapas de desarrollo de infraestructuras y servidores se realizan casi cada mes para desarrollar un nuevo desarrollo. La mayor capacidad empresarial y los avances significativos de los ángulos de eficiencia energética utilizando menos servidores seguirán siendo un día en el mundo tecnológico. Según estos pases de escenario, Nvidia no sólo está posicionado como fabricante de hardware. Si miramos los datos del mercado de la empresa, estamos en la empresa tecnológica más grande del mundo. Company MoE-based AI es el principal arquitecto en el desarrollo de estrategias.
Autor2025’in Öne Çıkan Yapay Zeka Araçları
Zeki Optimizasyon Teknikleri Nedir? 2025'te Optimizasyon
Artículos relacionados
Comentarios (0)
Inicia sesión para comentar.
Iniciar sesión