Elon Musk-ın yeni layihəsi olan xAI Colossus superkompüteri, 100.000 GPU ilə təchiz edilmiş nəhəng bir süni intellekt kompüteri kimi ilk dəfə detallı şəkildə kameraların qarşısında göstərilib. YouTuber ServeTheHome, superkompüterin Supermicro serverlərini incələyərək bu layihənin müxtəlif aspektlərini ortaya qoyub. Colossus, 122 günlük montaj prosesindən sonra artıq 2 aydır ki, onlayn vəziyyətdədir. Videoda bəzi detallar gizli saxlanılsa da, superkompüterin əsas komponentləri geniş şəkildə paylaşılıb.

     xAI Colossus-un əsas quruluşu, hər biri 8 H100 GPU-dan ibarət olan NVIDIA HGX H100 serverləridir. Bu serverlər, Supermicro-nun maye ilə soyudulmuş 4U Universal GPU sistemində yerləşir. Hər bir vahid, 8 server daşıyan strukturların içində ümumilikdə 64 GPU ehtiva edir. Hər bir vahidin alt hissəsində yedəklənmiş nasos sistemi və monitorinq cihazı olan bir Supermicro 4U bloku var. Bütün bu sistem, 1.500-dən çox GPU vahidini əhatə edən nəhəng bir quruluş yaradır.

     Yüksək zolaq genişliyi tələbləri olan bu superkompüter, şəbəkə bağlantıları üçün də xüsusi bir struktur təqdim edir. Hər bir GPU 400 GbE sürətində xüsusi bir şəbəkə interfeysinə malikdir ki, bu da ümumilikdə 3.6 Terabit/saniyə sürətlə ethernet bağlantısı yaradır. Bütün quruluş, superkompüterlərdə standart olan InfiniBand əvəzinə Ethernet ilə işləyir. Bu struktur, süni intellekt modellərinin davamlı olaraq təlim olunması üçün lazımi yüksək məlumat axını təmin edir.

    Colossus-un əsas istifadə sahəsi, Elon Musk-ın "anti-woke" süni intellekt dəstəkli söhbət botu olan Grok kimi X (əvvəlki Twitter) platformasındakı AI modellərinin təlimidir. NVIDIA-nın məlumatına görə, Colossus hazırda dünyanın ən böyük süni intellekt superkompüteridir. Layihənin ilkin mərhələsi başa çatmışkən, Musk-ın mövcud gücünü 50.000 yeni H200 GPU ilə ikiqat artırmağı hədəflədiyi bir yeniləmə planı da var. Bu isə enerji istehlakının da ikiqat artacağı mənasına gəlir.