Ілон Маск заявив, що його компанія xAI випустила в онлайн суперкомп’ютер Colossus.
Це саме та система, яка включає неймовірні 100 000 прискорювачів Nvidia H100, що робить її найпотужнішою системою навчання ШІ у світі. На додаток, вже найближчими місяцями xAI встановить у Colossus ще 100 000 прискорювачів, причому половина з них будуть Nvidia H200!
This weekend, the @xAI team brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.
Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.
Excellent…
— Elon Musk (@elonmusk) September 2, 2024
Colossus спочатку запустили у червні. Цей суперкомп’ютер навчатиме нейромережа Grok 3, яка має бути готова у грудні.
Згідно з наявними даними, після Colossus найбільшими подібними системами у світі володіють Google (90 000 прискорювачів) та OpenAI (80 000 прискорювачів). Тобто саме зараз перевага xAI відносно невелика, але при подвоєнні кількості карт розрив стане великим.
