Anthropic: AI-nin idarə etdiyi cihaz şəbəkəsi interneti ələ keçirə bilər

    “Anthropic” şirkətinin baş direktoru Dario Amodei açıq məktubunda süni intellektlə idarə olunan botnet təhlükəsi barədə xəbərdarlıq edib. Botnet çox sayda yoluxdurulmuş cihazın vahid şəbəkə kimi uzaqdan idarə olunmasıdır. Amodeinin fikrincə, belə sistem 6-12 ay ərzində bütün interneti ələ keçirə və yüz milyardlarla dollar zərər vura bilər.

    Amodei bu təhlükəni süni intellektin sürətlə inkişaf etməsi ilə əlaqələndirib və yeni modellərin hazırlanma tempinin aşağı salınmasını istəyib. Hazırda ABŞ-də ən qabaqcıl süni intellekt modelləri üzərində çalışan ən az 4 rəqib var. Bu rəqabət inkişafı daha da sürətləndirir. Onun sözlərinə görə, lazımi təhlükəsizlik məhdudiyyətləri qoyulmasa, modellər gücləndikcə hücumlar da genişlənəcək.

    “Anthropic” şirkətinin araşdırmalarına görə, indiki süni intellekt modelləri silah mühəndisliyi, hərbi kəşfiyyat, müşahidə və kiberəməliyyatlarda artıq kömək edə bilir. Yeni sistemlər yalnız suallara cavab vermir, mürəkkəb və bir neçə mərhələdən ibarət tapşırıqları da müstəqil yerinə yetirməyə başlayır. Daha güclü modellər belə əməliyyatlar üçün lazım olan biliyi, insan sayını və vaxtı xeyli azalda bilər.

    “Anthropic” şirkətindən bu yaxınlarda ayrılan süni intellekt alimi Evan Hubinger daha sərt xəbərdarlıq edib. O, “X” paylaşımında süni intellekt səbəbindən bəşəriyyətin növbəti 10 ildə məhv olması ehtimalını 10 faizdən yüksək qiymətləndirdiyini yazıb. Hubingerə görə, insandan daha ağıllı sistemlərin bəşəriyyətin məqsədlərinə uyğun işləməsi üçün hələ etibarlı plan yoxdur.

    Ancaq süni intellekt sistemlərinin güclənməsi onların avtomatik olaraq daha təhlükəli olacağı demək deyil. Təkmilləşdirilmiş modellərdə daha güclü qoruma üsulları ola bilər. Onlar zərərli fəaliyyəti aşkarlaya, həmçinin indiyədək avtomatlaşdırılmayan işləri görə bilər. İnkişafı tam dayandırmaq da risklidir, çünki daha məsuliyyətsiz şirkətlər və ya ölkələr öz modellərini hazırlamağa davam edə bilər.