Microsoft oznámil nové výkonné a vysoce škálovatelné virtuální stroje, které integrují nejnovější GPU NVIDIA H100 Tensor Core a síť NVIDIA Quantum-2 InfiniBand.
Společnost Microsoft utratila stovky milionů dolarů za vybudování masivního superpočítače, který má pohánět chatbota ChatGPT od OpenAI. Ve zprávě Microsoft vysvětluje, jak vytvořila výkonnou infrastrukturu Azure AI používanou OpenAI a jak se její systémy stávají ještě robustnějšími.
Společnost Microsoft tvrdí, že pro vybudování superpočítače pohánějícího projekty OpenAI připojila tisíce grafických procesorů (GPU) NVIDIA ke své cloudové platformě Azure. To zase umožnilo OpenAI trénovat stále výkonnější modely a „odemknout možnosti umělé inteligence“ nástrojů, jako jsou ChatGPT a Bing.
Scott Guthrie, viceprezident Microsoftu pro umělou inteligenci a cloud, uvedl, že společnost do projektu vynaložila několik set milionů dolarů . A i když se to pro Microsoft, který nedávno rozšířil svou mnohaletou investici do OpenAI v hodnotě mnoha miliard dolarů, může jevit jako kapka v moři, rozhodně to ukazuje, že je připraven investovat do oblasti umělé inteligence ještě více peněz.
Když Microsoft v roce 2019 investoval do OpenAI miliardu dolarů , souhlasil s výstavbou masivního a nejmodernějšího superpočítače pro tento startup zabývající se výzkumem umělé inteligence. Jediný problém byl v tom, že Microsoft neměl nic, co by OpenAI potřeboval, a nebyl si zcela jistý, zda dokáže na své cloudové službě Azure postavit něco tak velkého, aniž by se to zhroutilo.
OpenAI se snažila trénovat stále rostoucí sadu programů umělé inteligence zvaných modely, které požívaly větší objemy dat a učily se stále více parametrů, proměnných, které systém AI objevil prostřednictvím školení a přeškolování. To znamenalo, že OpenAI potřebovala přístup k výkonným cloudovým službám po dlouhou dobu.
Aby se společnost Microsoft s touto výzvou vyrovnala, musela najít způsoby, jak propojit desítky tisíc grafických čipů NVIDIA A100 a změnit způsob umístění serverů v raccích, aby se zabránilo výpadkům proudu.
„Vytvořili jsme systémovou architekturu, která by mohla fungovat a být spolehlivá ve velkém měřítku. To umožnilo ChatGPT,“ řekl Nidhi Chappell, generální manažer Microsoftu pro infrastrukturu Azure AI. "Je to vzorec, který pochází odtud." Bude jich mnohem, mnohem víc."
Tato technologie umožnila OpenAI spustit ChatGPT, virálního chatbota, který během několika dní od svého listopadového IPO přilákal více než milion uživatelů a nyní je absorbován do obchodních modelů jiných společností, od těch, které provozuje miliardář zakladatel hedgeového fondu Ken Griffin na veletrhu čas doručení.
Vzhledem k tomu, že generativní nástroje umělé inteligence, jako je ChatGPT, získávají zájem ze strany podniků a spotřebitelů, bude na poskytovatele cloudových služeb, jako jsou Microsoft, Amazon a Google, vyvíjen zvýšený tlak, aby zajistili, že jejich datová centra budou moci poskytovat enormní požadovaný výpočetní výkon.
Nyní Microsoft používá stejnou sadu zdrojů, které vytvořil pro OpenAI, k výcviku a provozování vlastních skvělých modelů umělé inteligence, včetně nového vyhledávacího robota Bing představeného minulý měsíc. Společnost systém prodává i dalším zákazníkům. Softwarový gigant již pracuje na další generaci superpočítače s umělou inteligencí v rámci rozšířené dohody s OpenAI, ve které Microsoft přidal ke své investici 10 miliard dolarů.
„Nestavíme je jako něco na zakázku; začalo to jako něco zvyku, ale vždy jsme to postavili tak, že to bylo zobecněné, aby každý, kdo chce trénovat velký jazykový model, mohl využít stejná vylepšení.“ Guthrie řekl v rozhovoru. "Opravdu nám to pomohlo stát se celkově lepším cloudem pro AI."
Trénink masivního modelu umělé inteligence vyžaduje velké množství grafických procesorů připojených na jednom místě, jako je superpočítač s umělou inteligencí sestavený společností Microsoft. Jakmile je model používán, vyžaduje zodpovězení všech otázek položených uživateli (tzv. inference) mírně odlišné nastavení. Microsoft také nasazuje grafické čipy pro odvození, ale tyto procesory (stovky tisíc) jsou geograficky rozptýleny ve více než 60 oblastech datových center společnosti. Nyní společnost přidává nejnovější grafický čip NVIDIA pro pracovní zátěže AI (H100) a nejnovější verzi síťové technologie NVIDIA Infiniband pro ještě rychlejší sdílení dat.
Rozhodnutí společnosti Microsoft uzavřít partnerství s OpenAI bylo založeno na přesvědčení, že tento bezprecedentní rozsah infrastruktury přinese výsledky – nové možnosti umělé inteligence, nový typ programovací platformy – které by Microsoft mohl proměnit v produkty a služby, jež by zákazníkům přinesly skutečné výhody, uvedl Waymouth. Toto přesvědčení podnítilo ambice společností překonat všechny technické výzvy potřebné k jejímu vybudování a nadále posouvat hranice superpočítačů s umělou inteligencí.
Zdroj: https://news.microsoft.com/