Anthropic-in AI modeli məxfi dövlət sistemlərində kritik boşluqları üzə çıxarıb

    Anthropic şirkətinin ən güclü süni intellekt modellərindən biri olan Mythos ABŞ hökumətinin məxfi kompüter sistemlərində təhlükəsizlik boşluqlarını aşkar edib. Bu barədə Associated Press agentliyinə danışan anonim ABŞ rəsmisi məlumat verib.

    Məlumata görə, hadisə real kiberhücum zamanı deyil, dövlət qurumlarının öz müdafiə sistemlərini yoxlamaq üçün keçirdiyi xüsusi "red team" sınaqları çərçivəsində baş verib. Test zamanı ABŞ kəşfiyyat qurumları Mythos modelini məxfi şəbəkələrə qarşı yoxlayaraq onun hansı zəiflikləri aşkar edə biləcəyini qiymətləndiriblər. Rəsmi bildirib ki, model sistemlərdəki boşluqları cəmi bir neçə saat ərzində müəyyən edib. Bununla belə, aşkar olunan zəifliklərin istismar edildiyi və ya sistemlərə real giriş əldə olunduğu barədə heç bir məlumat yoxdur.

    Sınaqlar Anthropic-in yalnız seçilmiş dövlət qurumları və təşkilatlara təqdim etdiyi Project Glasswing proqramı çərçivəsində həyata keçirilib. Mythos xüsusi olaraq proqram təminatındakı boşluqları tapmaq və müəyyən hallarda onları istismar etmək qabiliyyətinə malik model kimi hazırlanıb.

    Böyük Britaniyanın AI Security Institute təşkilatı da Mythos-u indiyədək sınaqdan keçirdiyi modellər arasında kiberhücum potensialı baxımından ən güclü sistemlərdən biri kimi qiymətləndirib. Hazırda ABŞ hökumətinin bəzi qurumları Mythos-dan istifadə etməyə davam etsə də, model ətrafında siyasi və hüquqi mübahisələr davam edir. Anthropic isə artıq Mythos-un növbəti versiyasının təlimini tamamladığını açıqlayıb.