Anthropic-in AI təhlükəsizliyi rəhbəri: AI 10 ildə hamını məhv edə bilər

    “Anthropic” şirkətində süni intellekt (AI) təhlükəsizliyi komandasına rəhbərlik edən Evan Hubinger növbəti 10 ildə süni intellektin bütün insanları məhv etməsi ehtimalını 10 faizdən yüksək qiymətləndirib. Onun sözlərinə görə, özünü təkmilləşdirə bilən AI sistemləri gözləniləndən daha sürətlə inkişaf edir. Hubinger bu açıqlamanı tədqiqatçı Jacob Coxon təhlükəsizliklə bağlı narahatlıqlara görə şirkətdən ayrıldıqdan az sonra verib.

    Coxon “X” platformasındakı paylaşımında “Anthropic” şirkətinin təhlükəsizlik məsələsinə kifayət qədər ciddi yanaşmadığını bildirib. Daha əvvəl “OpenAI” şirkətində də sistemlərin hazırlanması üzərində çalışan tədqiqatçı “Anthropic” və “OpenAI” şirkətlərini özünü təkmilləşdirən superintellekt yaratmaq yarışında ittiham edib. Coxonun fikrincə, bu sistemləri hazırlayan şəxslər süni intellektin onilliyin sonunadək bütün insanları öldürə biləcəyinə həqiqətən inanırlar. Buna baxmayaraq, şirkətlər üstünlüyü ilk əldə etmək üçün işi davam etdirirlər.

    Əsas narahatlıq AI sisteminin öz proqram kodunu yaxşılaşdıraraq hər mərhələdə daha güclü olmasıdır. Bu, sistemin sürətlə inkişaf etdiyi və prosesin insan nəzarətindən çıxa bildiyi bir dövr yarada bilər. Süni intellekt hələ bu səviyyəyə çatmasa da, AI şirkətləri həmin istiqamətdə işləyirlər. Hazırda proqram kodlarının əhəmiyyətli hissəsi də süni intellektin köməyi ilə yazılır.

    Hubinger həmkarının risklərlə bağlı fikirləri ilə razılaşdığını və eyni narahatlığı bölüşdüyünü deyib. Onun sözlərinə görə, “Anthropic” şirkətinin qabaqcıl AI-ni təhlükəsiz saxlamaq və insan dəyərlərinə uyğun idarə etmək üçün hələ planı yoxdur. Komanda belə bir planın hazırlanmasında aydın irəliləyiş də görmür. Coxon isə şirkətlərin yarış içində olduqları üçün risklərə baxmayaraq sürəti azaltmadığını düşünür.

    Coxonun gedişi “Anthropic” daxilində təhlükəsizlik narahatlığı ilə bağlı ən diqqətçəkən istefalardan biri sayılır. Şirkəti vaxtilə “OpenAI” şirkətindən ayrılan və oradakı təhlükəsizlik yanaşmasından narazı qalan mütəxəssislər qurublar. Son illərdə “OpenAI” şirkətinin bir neçə tədqiqatçısı da oxşar səbəblərlə işdən çıxıb. Bu xəbərdarlıqlar şirkətlərin birjaya çıxmağa hazırlaşdığı bir dövrə təsadüf edir. Həmin vaxt nəzarətsiz davrana bilən AI agentləri və qabaqcıl modellərin izlənməsinin çətinliyi də gündəmdədir.