In the tests infrence of the AI, the GPU NVIDIA H100 ont tabli des records, the GPU A100 ont montr leur leadership en termes de performances et les Jetson AGX Orin ont domin the informatique priphrique.
Pour leurs dbuts dans les tests d’IA standard MLPerf, les GPU NVIDIA H100 Tensor Core ont tabli des records mondiaux dans l’Infrence sur toutes les charges de travail, fournissant jusqu ‘4,5 fois plus de performances que les GPU de la gnration prcdente.
Ces rsultats dmontrent que Hopper est le meilleur choix pour les utilisateurs qui exigent des performances maximales sur des modles d’IA avancs.
De plus, the NVIDIA A100 Tensor Core GPU and the NVIDIA Jetson AGX module Orin pour la robotique alimente par l’IA ont continu fournir des performances d’frence de premier plan dans tous les tests MLPerf: reconnaissance l’image et de parole, traitement du langage naturel et systmes de recommandation.
The H100, aka Hopper, a relev la barre des performances par acclrateur dans les six rseaux neuronaux du cycle. The a dmontr knows supriorit en termes de dbit et de vitesse dans des scnarios distincts sur serveur et hors ligne.
L’architecture Hopper de NVIDIA to bring jusqu ‘4,5 fois plus de performances que les GPU de l’architecture Ampere de NVIDIA, here continuent fournir le global leadership dans les rsultats MLPerf.
Grce en partie son Transformer Engine, Hopper a excell sur le modle populaire BERT pour le traitement du langage naturel. Il s’agit de un des modles d’IA MLPerf les plus importants et les plus gourmands en performances.
Ces benchmarks d’frence marquent la premire dmonstration publique des GPU H100, here seront disponibles plus tard cette anne. Les GPU H100 participeront aux prochains cycles de MLPerf pour l’entranement.
Les GPU A100 montrent leur leadership
The NVIDIA A100 GPU, disponibles ds prsent auprs des principaux fournisseurs de services de cloud computing et des fabricants de systmes, ont continu montrer leur leadership global en matire de performances sur the infrence d’Ia dans les derniers tests.
The GPU A100 ont remport plus de tests que n’importe those autre solutions dans les catgories et scnarios de centers de women et d ‘informatique priphrique. En juin, the A100 a galement pris la tte des tests d’entranement MLPerf, dmontrant ainsi ses capacits dans l’ensemble du flux de travail de l’IA.
Depuis leurs dbuts en juillet 2020 sur MLPerf, les GPU A100 ont multiple leurs performances par 6, grce aux amliorations continues du logiciel NVIDIA AI.
NVIDIA AI est la seule plateforme permantant d’excuter toutes the charges de travail et tous les scnarios d’frence MLPerf dans les centers de women et l’formatique priphrique.
Les utilisateurs ont besoin de performances polyvalentes
The capacity of the NVIDIA GPU fournir des performances on all the principaux models of AI fait des utilisateurs les vritables gagnants. Leurs applications relles utilisent gnralement de nombreux rseaux neuronaux de diffrents types.
For example, an application d’IA peut avoir besoin de comprendre the oral question of a utilisateur, de classer une image, de formuler une recommandation, puis de fournir une rponse sous forme de message oral avec une voix humaine. Chaque tape requires a diffrent type of AI model.
Les benchmarks MLPerf couvrent ces charges de travail et scnarios d’IA populaires – vision par ordinateur, traitement du langage naturel, systmes de recommandation, vocal reconnaissance, etc. Ces tests guarantissent aux utilisateurs des performances fiables et flexibles dployer.
Les utilisateurs se fient aux rsultats de MLPerf pour des dcisions d’achat claires, car les tests sont transparents et objectifs. Les critres d’valuation bnficient du soutien d’un large groupe comprenant Amazon, Arm, Baidu, Google, Harvard, Intel, Meta, Microsoft, Stanford and the University of Toronto.
Orin mne la danse la priphrie
In the domain of Edge Computing, NVIDIA Orin a ralis tous les benchmarks MLPerf, remportant plus de tests que n’importe that autre systme sur puce low consommation. And the to show a gain of 50% in efficacy nergtique par rapport ses dbuts sur MLPerf en avril.
Lors du tour prcdent, Orin at jusqu ‘5 fois plus rapide que le module Jetson AGX Xavier de la gnration prcdente, tout enofferant une efficacit nergtique moyenne 2 fois suprieure.
Orin intgre dans une seule puce a GPU d’architecture NVIDIA Ampere and a cluster of puissants curs de CPU Arm. Il est disponible ds aujourd’hui dans le kit de dveloppement NVIDIA Jetson AGX Orin et les modules de production pour la robotique et les systmes autonomes, et take en charge l’ensemble de la pile logicielle NVIDIA AI, y compris les plates-formes pour les vhicules autonomes (NVIDIA Hyperion), les appearils mdicaux (Clara Holoscan) and la robotique (Isaac).
Large cosystme NVIDIA AI
Les rsultats de MLPerf montrent que NVIDIA AI est soutenu par l’cosystme le plus large du secteur de l’apprentissage automatique.
Plus of 70 soumissions in this tour ont fonctionn sur la plate-forme NVIDIA. For example, Microsoft Azure a soumis des rsultats faisant tourner NVIDIA AI sur ses services cloud.
En outre, 19 systmes certifis NVIDIA ont t prsents par 10 fabricants de systmes, dont ASUS, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Lenovo et Supermicro.
Leur travail montre those utilisateurs peuvent obtenir d’excellentes performances avec NVIDIA AI la fois dans le cloud et dans les serveurs fonctionnant dans leurs own centers de women.
Source: NVIDIA
Et vous?
Qu’en pensez-vous?
Voir aussi:
Le confineur Nvidia LHR officiellement craqu, apportant la pleine vitesse aux oprations de minage sur Windows et Linux
Les hackers derrire le piratage de Nvidia menacent de divulger des informations plus confidentielles, moins que l’entreprise ne s’engage publier en open source ses pilotes
Le passage de Nvidia open source est officiel, la socit publie des modules du noyau GPU de Linux en open source avec une double license GPL / MIT, pour amliorer le support des GPU sous Linux