15:59 2024-08-23
it - citeste alte articole pe aceeasi tema
Comentarii Adauga Comentariu
_ Nvidia prezintă instalările de servere Blackwell în desfășurare — foaia de parcurs pentru AI și centrele de date are ca Blackwell Ultra să vină anul viitor cu procesoarele Vera și GPU-urile Rubin în 2026
Înainte de începerea târgului Hot Chips 2024, Nvidia a prezentat mai multe elemente ale platformei sale Blackwell, inclusiv serverele instalate și configurate.Este un mod mai puțin decât subtil de a spune că Blackwell încă vine-nu contează întârzierile.De asemenea, a vorbit despre soluțiile sale existente Hopper H200, a arătat optimizările FP4 LLM folosind noul său sistem de cuantizare Quasar, a discutat despre răcirea lichidă cu apă caldă pentru centrele de date și a vorbit despre utilizarea AI pentru a ajuta la construirea de cipuri și mai bune pentru AI.Acesta a reiterat faptul că Blackwell este mai mult decât un simplu GPU, este o platformă și un ecosistem întreg.
Mare parte din ceea ce va fi prezentat de Nvidia la Hot Chips 2024 este deja cunoscut, cum ar fi centrul de date și foaia de parcurs AI care arată Blackwell Ultra care va veni anul viitor, cu
În timp ce
Nvidia a arătat, de asemenea, unele rezultate de performanță de la H200 existent, care rulează cu și fără NVSwitch.Se spune că performanța poate fi de până la 1,5 ori mai mare în ceea ce privește sarcinile de lucru de inferență în comparație cu executarea de proiecte punct la punct-care folosea un model de parametri Llama 3.1 70B.Blackwell dublează lățimea de bandă NVLink pentru a oferi îmbunătățiri suplimentare, cu o tavă de comutare NVLink care oferă o lățime de bandă totală de 14,4 TB/s.
Deoarece cerințele de alimentare ale centrelor de date continuă să crească, Nvidia lucrează și cu parteneri pentru a crește performanța și eficiența.Unul dintre rezultatele mai promițătoare este utilizarea răcirii cu apă caldă, în care apa încălzită poate fi recirculată pentru încălzire pentru a reduce și mai mult costurile.Nvidia susține că a înregistrat o reducere cu până la 28% a consumului de energie al centrului de date folosind tehnologia, o mare parte din aceasta provenind din eliminarea hardware-ului de răcire sub ambiental.
Mai sus puteți vedea pachetul complet de diapozitive din prezentarea Nvidia.Există și alte câteva elemente interesante de remarcat.
Pentru a se pregăti pentru Blackwell, care adaugă acum suport nativ FP4 care poate crește și mai mult performanța, Nvidia a lucrat pentru a se asigura că cel mai recent software al său beneficiază de noile caracteristici hardware fără a sacrifica acuratețea.După ce a folosit sistemul său de cuantizare Quasar pentru a regla rezultatele sarcinilor de lucru, Nvidia este capabilă să ofere practic aceeași calitate ca FP16, folosind un sfert din mai multă lățime de bandă.Cele două imagini de iepurași generate pot fi foarte puține, dar asta este destul de tipic pentru instrumentele text-to-image precum Stable Diffusion.
Nvidia a vorbit și despre utilizarea instrumentelor AI pentru a proiecta cipuri mai bune-AI construind AI, cu broaște țestoase până la capăt.Nvidia a creat un LLM pentru uz intern care ajută la accelerarea proiectării, depanării, analizei și optimizării.Funcționează cu limbajul Verilog care a fost folosit pentru a descrie circuitele și a fost un factor cheie în crearea GPU-ului Blackwell B200 de 208 miliarde de tranzistori.Aceasta va fi apoi folosită pentru a crea modele și mai bune, care să permită Nvidia să lucreze la următoarea generație de GPU-uri Rubin și nu numai.[Nu ezitați să introduceți propria glumă Skynet în acest moment.]
Încheind lucrurile, avem o imagine de mai bună calitate a foii de parcurs AI a Nvidia pentru următorii câțiva ani, care definește din nou "platforma Rubin” cu comutatoare și interconexiuni ca un pachet întreg.Nvidia va prezenta mai multe detalii despre arhitectura Blackwell, folosind AI generativă pentru inginerie asistată de computer și răcire cu lichid la conferința Hot Chips de săptămâna viitoare.
Comentarii:
Adauga Comentariu