El blog de NVIDIA detalla las aceleraciones del núcleo tensor para potenciales interatómicos de aprendizaje automático
NVIDIA afirmó que sus métodos de FP32 Tensor Core pueden acelerar el aprendizaje automático de potenciales interatómicos sin reentrenamiento ni cambiar la arquitectura del modelo, manteniendo el comportamiento cerca de una línea base de FP32 en las cargas de trabajo probadas, según un blog de desarrolladores publicado el 29 de octubre de 2026.
Evidencia y contexto
La publicación evalúa el Point Edge Transformer, o PET, un potencial interatómico de aprendizaje automático basado en transformadores desarrollado por Lab COSMO en EPFL. NVIDIA afirmó que PET es un caso de prueba exigente porque gran parte de su tiempo de ejecución ya está en multiplicaciones generales optimizadas de matrices, dejando poco margen para optimizaciones adicionales. La empresa comparó BF16x9 en GPUs Blackwell y TF32x3 en GPUs Ampere, midiendo el rendimiento de dinámica molecular de kernel y extremo a extremo, así como el comportamiento a nivel de trayectoria.
Para el camino BF16x9 en Blackwell, NVIDIA dijo que los grandes GEMM PET se aceleraban por 2.2x a 2.5x en una carga de trabajo de 17,280átomos, mientras que los escalones de la dinámica molecular iban de 1.2x a 1.4x en una caja de agua de átomos de 192 y 1.4x a 1.7x en el sistema de átomos de 17,280, dependiendo de si la estrategia cuBLAS era "eficiente" o "ansiosa". NVIDIA dijo que el error de BF16x9 estaba por debajo del nivel de no determinismo propio de PET.
Para TF32x3 sobre Ampere, NVIDIA dijo que los grandes PET GEMM aceleraron aproximadamente 1.7x a 1.9x en una GPU de núcleo tensor A100 . En el pequeño punto de control de 26 millones de parámetros, TF32x3 aceleró la dinámica molecular paso a 1.5x en el sistema mayor, según la publicación. La empresa también dijo que un punto de control de 255 millones de parámetros alcanzó un 1.4x aceleración en el sistema de átomos 192, con un error de fuerza de 3.9 × 10⁻⁶ eV/Å.
NVIDIA afirmó que los métodos de precisión eran importantes porque las simulaciones atomísticas son sensibles a pequeñas diferencias numéricas que pueden acumularse durante los cálculos de fuerzas y en muchos pasos de tiempo. En sus pruebas, TF32x3 siguió la curva suave de energía potencial de FP32 CO/Pt(111), mientras que TF32 de paso uno mostró una variación visible punto a punto. En una simulación NVE de 30 de una caja de agua de átomos de 192, la compañía dijo que FP32 y TF32x3 mostraron fluctuaciones de energía limitada comparables, mientras que TF32 uno paso se desplazaron más.
La publicación también describía una prueba de relajación estructural en una placa de aleación de Cantor de átomos de 539 utilizando el optimizador de FIRE2 en el Toolkit NVIDIA ALCHEMI. NVIDIA afirmó que FP32 convergían en 218 pasos y TF32x3 en 218 para 222 pasos a través de tres réplicas, todos alcanzando la tolerancia de fuerza de 1.0 × 10⁻³ eV/Å. En cambio, la publicación decía que TF32 de uno pasadas no convergían en 500 pasos en todas tres ejecuciones, y aun así fallaban tras duplicar el límite a 1,000 pasos.
Qué hacen los métodos y en qué difieren
Según NVIDIA, BF16x9 en Blackwell descompone cada operando FP32 en tres BF16 componentes y recombina nueve productos en FP32, con cuBLAS capaz de habilitar el camino a través de la variable de entorno CUBLAS_EMULATE_SINGLE_PRECISION=1 o configuraciones relacionadas. TF32x3 en Ampere divide cada operando FP32 en un componente TF32 principal y un componente residual, evalúa tres productos cruzados y omite el término residual por residual. NVIDIA dijo que la implementación TF32x3 utilizó el operador OpMultiplyAddFastF32 de CUTLASS y preservó las entradas y salidas FP32 en la interfaz del modelo.
La compañía dijo que las ganancias de extremo a extremo dependen del tamaño del sistema y de cuánto tiempo de ejecución se gasta en los GEMMs. Los sistemas más pequeños se benefician menos porque la sobrecarga de lanzamiento, el procesamiento de vecinos y las operaciones de grafos constituyen una mayor parte del tiempo de ejecución, mientras que los sistemas más grandes exponen más trabajo de GEMM. NVIDIA también afirmó que el rendimiento de TF32x3 depende del ajuste del núcleo para las formas matriciales y el hardware del modelo, y que BF16x9 y TF32x3 deben validarse según los requisitos específicos de precisión y estabilidad de la carga de trabajo.
El blog es un informe técnico de rendimiento más que un lanzamiento de producto. No proporciona precios, impacto en el mercado ni una estimación más amplia de adopción, y sus resultados se limitan a las cargas de trabajo PET y pruebas de validación descritas en la publicación.