Elon Musk mesterséges intelligenciát fejlesztő vállalkozása, az xAI nemrégiben bejelentette, hogy a „Colossus”, a világ legerősebb mesterséges intelligenciát (mesterséges intelligenciát) oktató szuperszámítógépe már online elérhető. A Tennessee állambeli Memphisben található új AI szuperszámítógép mindössze négy hónap (122 nap) alatt készült el.
Az új xAI oktatófürt 100 000 NVIDIA benchmark Hopper H100 GPU felhasználásával készült, amely egy nagyon igényes komponens az új AI-modellek betanításához. Ez a modell az xAI nagy nyelvi modelljének (LLM), a Groknak a következő generációjának betanítására szolgál.
A cég azt is tervezi, hogy néhány hónapon belül megduplázza a GPU-számot 200 000-re azáltal, hogy további 50 000 chipet ad hozzá az NVIDIA új, fejlettebb H200 sorozatához, amely nagyobb számítási memóriát kínál.
Ezenkívül az NVIDIA új etalon Hopper H200 GPU-i akár 141 GB gyorsabb HBM3E memóriával rendelkeznek, szemben a H100-zal, amely akár 80 GB HBM3 memóriával rendelkezik.
Ezen a hétvégén a @xAI csapat online elérhetővé tette a Colossus 100k H100 képzési klaszterünket. Az elejétől a végéig 122 nap alatt készült el.
A Colossus a világ legerősebb mesterséges intelligencia képzési rendszere. Sőt, néhány hónapon belül megkétszereződik a mérete, 200 ezerre (50 ezer H200-ra).
Kiváló…
– Elon Musk (@elonmusk) 2024. szeptember 2
„Ezen a hétvégén az xAI csapata online hozta a Colossus 100K H100 képzési klaszterünket. Az elejétől a végéig 122 nap alatt készült el. A Colossus a világ legerősebb mesterséges intelligencia képzési rendszere. Sőt, néhány hónapon belül megduplázódik a mérete, 200K-ra (50K H200-ra). Kiváló munka a csapattól, az NVIDIA-tól és számos partnerünktől/beszállítónktól” – tweetelte Musk az X-en (korábban Twitteren).
„Izgalmas látni, hogy a Colossus, a világ legnagyobb GPU-s #szuperszámítógépe rekordidő alatt elérhetővé válik. A Colossust az @nvidia #acceleratedcomputing platformja hajtja, amely áttörő teljesítményt nyújt az #energiahatékonyság kivételes növekedésével. Gratulálok az egész csapatnak!” Az NVIDIA Data Center X handje írt a platformjára.
Az NVIDIA GPU körülbelül 30 000 dollárba kerül, ami arra utal, hogy Musk legalább 3 milliárd dollárt költött az új szuperszámítógép megépítésére, amely létesítmény jelentős áram- és hűtési erőforrásokat is igényel.
Jelenleg a Musk’s Grok 2, az xAI második generációs, 15 000 H100 GPU-val kiképzett mesterséges intelligencia modellje jelenleg kizárólag az X prémium és X prémium plusz előfizetők számára érhető el kép- és szöveggenerálási képességekkel. Azt mondta, hogy várhatóan decemberre kiadják az xAI harmadik generációs mesterséges intelligencia modelljét, a Grok-3-at.