Η NVIDIA αποκάλυψε την τελευταία της λύση Blackwell GB200 NVL4 με τέσσερις GPU και δύο GPU συσκευασμένες σε μία ισχυρή λύση HPC & AI.
Η NVIDIA επιταχύνει την τεχνητή νοημοσύνη προς τα εμπρός με ισχυρές λύσεις υλικού: Blackwell GB200 NVL4 & Hopper H200 NVL
Ως μέρος των ανακοινώσεων της για το SC24, η NVIDIA αποκαλύπτει δύο ολοκαίνουργιες πλατφόρμες υλικού, η μία που βασίζεται στην υπάρχουσα στοίβα Hopper και η άλλη που τροφοδοτείται από την τελευταία της στοίβα Blackwell. Αυτές οι δύο λύσεις έχουν σχεδιαστεί για εταιρικούς διακομιστές, τροφοδοτώντας επιταχυνόμενους φόρτους εργασίας HPC και AI.
Ξεκινώντας με το NVIDIA H200 NVLη εταιρεία επιβεβαιώνει τώρα τη γενική διαθεσιμότητα αυτών των καρτών Hopper που βασίζονται σε PCIe, οι οποίες μπορούν να συνδέσουν έως και 4 GPU μέσω ενός τομέα NVLINK, προσφέροντας επτά φορές ταχύτερο εύρος ζώνης από μια τυπική λύση PCIe. Η εταιρεία δηλώνει ότι οι λύσεις H200 NVL μπορούν να χωρέσουν σε οποιοδήποτε κέντρο δεδομένων και προσφέρουν μια σειρά από ευέλικτες διαμορφώσεις διακομιστή που είναι βελτιστοποιημένες για υβριδικούς φόρτους εργασίας HPC και AI.
Όσον αφορά τις προδιαγραφές, η λύση Hopper H200 NVL προσφέρει 1,5x περισσότερη μνήμη HBM, 1,7x απόδοση συμπερασμάτων LLM και 1,3x απόδοση HPC. Λαμβάνετε 114 SM με συνολικά 14.592 πυρήνες CUDA, 456 πυρήνες τανυστήρα και έως 3 TFLOP απόδοσης FP8 (συσσωρευμένα FP16). Η GPU διαθέτει μνήμη 80 Gb HBM2e διαμορφωμένη σε μια διεπαφή 5120-bit και έχει TDP 350 Watt.
Προχωρώντας στο Blackwell, έχουμε την πρώτη μας βιτρίνα της NVIDIA GB200 NVL4, η οποία είναι μια ολοκαίνουργια μονάδα που είναι κατά κάποιο τρόπο μεγαλύτερη επέκταση της αρχικής λύσης τεχνητής νοημοσύνης GB200 Grace Blackwell Superchip. Η μονάδα GB200 NVL4 διπλασιάζει τις δυνατότητες CPU και GPU και προσθέτει επίσης αυξημένη μνήμη.
Λαμβάνετε δύο GPU Blackwell GB200 διαμορφωμένες σε μια μεγαλύτερη πλακέτα με δύο Grace CPU. Η μονάδα έχει σχεδιαστεί ως λύση ενός διακομιστή με τομέα NVLINK 4 GPU και μνήμη συνεκτικής 1,3 T. Όσον αφορά τις επιδόσεις, η μονάδα θα προσφέρει 2,2x βελτίωση στην προσομοίωση και 1,8x αύξηση στην απόδοση εκπαίδευσης και συμπερασμάτων. Η αυξανόμενη λίστα συνεργατών της NVIDIA θα προσφέρει τη λύση NVL4 τους επόμενους μήνες.
Όσο για το TDP, δεδομένου ότι η μονάδα Superchip είναι περίπου 2700W, μπορούμε να περιμένουμε ότι η μεγαλύτερη λύση GB200 NVL4 θα καταναλώνει σχεδόν 6KW ισχύος. Μπορεί κανείς εύκολα να δει τις προσπάθειες που καταβάλλονται από τη NVIDIA για την επιτάχυνση του τμήματος υπολογιστών AI.
Η εταιρεία δημοσίευσε πρόσφατα παγκόσμια ρεκόρ στο MLPerf v4.1, τόσο στην εκπαίδευση όσο και στην εξαγωγή συμπερασμάτων, και όχι μόνο το Blackwell είναι εκπληκτικό, αλλά ο Hopper γίνεται ακόμα καλύτερος με τη συνεχή βελτιστοποίηση. Η εταιρεία επιταχύνει επίσης τον οδικό της χάρτη τεχνητής νοημοσύνης σε ρυθμό ενός έτους με αρκετές νέες υποδομές που σχεδιάζονται τα επόμενα χρόνια, όπως οι Blackwell Ultra και Rubin.
VIA: wccftech.com
