Anthropic rəhbəri AI inkişafını ləngidəcək 3 mərhələli plan təqdim etdi

    “Anthropic” şirkətinin baş direktoru Dario Amodei qabaqcıl süni intellekt (AI) modellərinin inkişafını yavaşlatmaq üçün 3 mərhələli plan açıqlayıb. Şirkət ilk addımı digər iştirakçıları gözləmədən atacaq. Amodeiyə görə, modellərin bacarıqları daha yavaş artırılmalıdır. İnkişaf yenə sürətli görünəcək, ancaq qazanılan vaxt təhlükəsizlik tədbirlərinə sərf ediləcək.

    AI təhlükəsizliyi ilə bağlı müzakirələr tədqiqatçı Jacob Coxonun “Anthropic”dən istefasından sonra yenidən güclənib. Coxon aparıcı şirkətlərin insanların həyatı ilə risk etdiyini yazıb. Onun sözlərinə görə, texnologiyanı hazırlayanlar AI sistemlərinin onilliyin sonunadək bütün insanları öldürə biləcəyinə həqiqətən inanırlar. Amodei istefaya birbaşa münasibət bildirməyib. O, ehtiyatlı yanaşmanı “OpenAI” və “Hugging Face” ilə bağlı haker hücumu, eləcə də AI sistemlərinin son aylarda sürətlə güclənməsi ilə əsaslandırıb.

    Planın ilk hissəsində şirkətin daxilində işləyəcək müstəqil qiymətləndiricilər cəlb olunacaq. “METR” kimi kənar qurumların mütəxəssisləri təhlükəsizlik qaydalarına əməl olunmasını yoxlayacaq və insidentlərin gizlədilməməsinə nəzarət edəcəklər. Amodei hökumətlərin digər qabaqcıl AI şirkətlərindən də bunu tələb etməsini istəyir. Qiymətləndiricilərə işçi nişanı, masa və noutbuk veriləcək. Onlar daxili risk qruplarının baxdığı məlumatların çoxunu görə biləcəklər. Qanun və müqavilə ilə qorunan məlumatlar bu qaydadan kənarda qalacaq.

    Növbəti mərhələdə demokratik ölkələrdə çalışan aparıcı AI şirkətlərinin ortaq təhlükəsizlik qaydaları hazırlaması təklif olunur. Şirkətlər nəzarətsiz inkişaf sürətinə də birlikdə hədd qoymalıdırlar. Ancaq rəqiblər arasında belə razılaşma həm münasibətlər, həm də rəqabət qaydaları baxımından çətin görünür. Amodei hesab edir ki, ABŞ hökuməti danışıqlarda vasitəçi olmalı və yalnız təhlükəsizliyə aid məhdud görüşlər üçün xüsusi hüquqi istisna yaratmalıdır.

    Amodei Çinin AI sahəsində üstünlük qazanması riskini də plana daxil edib. O, güclü çiplərin və yarımkeçirici istehsal edən avadanlığın Çin şirkətlərinə satılmamasını istəyir. Böyük AI modelinin bacarıqlarını daha kiçik sistemə köçürən üsula qarşı da tədbir görülməlidir. Amodeiyə görə, bu addımlar növbəti 3-5 il ərzində Çinin inkişafını ləngidə və Amerikanın üstünlüyünü xeyli artıra bilər.

    Son mərhələ ölkələr arasında əməkdaşlığa aiddir. Amodei ABŞ və müttəfiqlərinin bacardıqları qədər avtoritar hökumətlərlə, xüsusən Çinlə işləməsini istəyir. O, belə danışıqların məhdud nəticə verə biləcəyini qəbul etsə də, dar mövzularda razılıq əldə oluna biləcəyini düşünür. Buna nümunə kimi AI ilə bioloji silah hazırlanmasının və sistemlərin istifadəçilərə bunu etməyə şərait yaratmasının qadağan olunmasını göstərir.

    Bəzi tənqidçilərə görə, fəlakət ssenariləri AI sistemlərinin artıq yaratdığı real zərərləri kölgədə qoyur. Digərləri düşünür ki, bu qaydalar sonda yalnız “Anthropic” və “OpenAI” kimi böyük şirkətlərin mövqeyini gücləndirə bilər. Amodei AI ilə bağlı reaksiyanı texnologiya şirkətlərinə, sektora və hökumətə etimadın azalması ilə izah edir. O, süni intellektin insanların həyatını ciddi şəkildə yaxşılaşdıra biləcəyinə inanır, amma bunun üçün texnologiyanın düzgün və ehtiyatla hazırlanmalı olduğunu deyir.