RAMDeck köhnə cihazlarla böyük AI modellərini işə salmaq istəyir

    “TradeMAV” evdə böyük süni intellekt modellərini işlətmək üçün “RAMDeck” adlı kiçik şəbəkə cihazına maliyyə toplamağa başlayıb. Cihaz “Windows”, “macOS” və “Linux” kompüterlərini, həmçinin “Android” telefonlarını ev şəbəkəsində birləşdirir. Süni intellekt modelinin hissələri bu cihazlar arasında bölünür və hər cihaz öz payını yaddaşında saxlayır. Beləliklə, bir cihazın yaddaşına sığmayan modeli evdəki avadanlıqla işlətmək olur.

    Erkən dəstəkçilər “RAMDeck” üçün 109 dollar (təxminən 190 manat) ödəyə bilərlər. Kampaniyanın maliyyə hədəfi 10 000 dollardır (təxminən 17 000 manat) və kampaniya 8 noyabr 2026-cı ildə başa çatacaq. Layihə DDR5 yaddaşının qiymətinin 2025-ci ilin iyulundakı səviyyənin 486 faizinə çatdığı bir vaxtda ortaya çıxıb. “TradeMAV”ın məlumatına görə, 64 GB DDR5 yaddaş dəsti 1 ildə 191 dollardan (təxminən 320 manat) 1118 dollara (təxminən 1900 manat) bahalaşıb.

    “RAMDeck” fərqli cihazlardakı yaddaşı texniki baxımdan bir böyük yaddaş kimi birləşdirmir. Bunun əvəzinə, modelin qatları ayrı-ayrı kompüterlərdə saxlanılır. Hər token, yəni mətnin kiçik bir hissəsi hazırlanarkən şəbəkə ilə yalnız aralıq nəticələr göndərilir. Sistemin əsasında pulsuz və açıq mənbəli “llama.cpp” proqramının RPC mexanizmi dayanır. RPC şəbəkədəki cihazların hesablama işlərini bir-birinə ötürməsi üçündür.

    “TradeMAV” bu texnologiyaya cihazların avtomatik tapılması və model qatlarının daha sürətli qrafik prosessora (GPU) yönləndirilməsi kimi funksiyalar əlavə edib. Nasazlıqdan sonra işi bərpa etmək və sistemi idarəetmə panelindən yönəltmək də olur. “OpenAI” sisteminə uyğun proqram bağlantısı (API) da var. Ancaq “RAMDeck”in prosessoru, yaddaşı, portları və nə qədər enerji sərf etdiyi hələ açıqlanmayıb. Terminal əmrlərini bilən istifadəçilər eyni üsulu pulsuz “llama.cpp” və “exo” proqramları ilə də sınaqdan keçirə bilərlər.

    Ən yüksək sürətlər əsasən “RTX 3060” videokartı və hər token üçün parametrlərin yalnız bir hissəsini işlədən modellərdə qeydə alınıb. “Qwen3-Coder 30B” modeli mini kompüterlə “M4 Mac mini” birlikdə işləyəndə saniyədə 39 token yaradıb. “Qwen3-Coder-Next” modelinin 40 milyard parametrli variantında sürət saniyədə 16 token olub. 7 milyard parametrli model “RTX 3060” üzərində saniyədə 43 tokenə çatıb.

    Bütün parametrləri eyni vaxtda işlədən modellərdə sürət xeyli azalıb. 27 milyard parametrli model 4 cihazda saniyədə 1,92 token yaradıb. “OpenAI”-ın “gpt-oss-120b” modeli 6 cihazda saniyədə 1,37 token göstərib. Başqa bir sistemdə 120 milyard parametrli model 5 cihazda işlədilib. Model 7 dəqiqəlik ilkin hazırlıqdan sonra saniyədə 3,1 tokenə çatıb. Nəticələrə əsasən, “RAMDeck” yüksək sürətdən daha çox ümumi yaddaş tutumunu artırmağa yönəlib. Digər kütləvi maliyyələşdirmə layihələrində olduğu kimi, burada da gecikmə və ya məhsulun ümumiyyətlə çatdırılmaması riski qalır.