Anthropic: Kiçik AI modelləri yoluxmuş cihaz şəbəkəsi yarada bilər

    “Anthropic”in “Frontier Red Team” komandasına görə, kiçik süni intellekt modellərinin zəif qorunan cihazlarda öz surətlərini yaradaraq yayılmasına cəmi bir neçə ay qala bilər. Belə modellər yavaş yayılan, amma sıradan çıxarılması çətin olan avtonom botnetlər yarada bilər. Botnet yoluxmuş cihazlardan qurulan və uzaqdan idarə olunan şəbəkədir. Mütəxəssislər təhlükənin real olduğunu, nəticələrin isə hələ dəqiq bilinmədiyini deyirlər.

    “EquiStamp” şirkətinin rəhbəri Chris Canal bu mərhələyə gələn ilin yayında çatılacağını gözləyir. Onun fikrincə, “Anthropic” araşdırmaların hazırkı vəziyyəti barədə daha ətraflı daxili məlumat bilə bilər. İnkişafı sürətləndirən səbəblərdən biri də AI laboratoriyalarının yeni modellər hazırlamaq üçün öz alətlərindən yararlanmasıdır. Araşdırmadan sonra şirkətin IPO, yəni birjaya çıxmaq üçün rəsmi müraciət etməsi bunun marketinq məqsədi daşıyıb-daşımadığı barədə suallar yaradıb.

    Təhlükə əvvəlki botnetlərdən tam fərqlənmir. “Mirai” 2016-cı ildə router və IP kameralar kimi internetə qoşulan cihazları yoluxduraraq “PlayStation Network”ə DDoS hücumu etmişdi. Belə hücum zamanı serverə həddən artıq sorğu göndərilir və nəticədə xidmət işləmir. Hadisə böyük DNS xidməti “Dyn”ə də təsir etmiş, çoxsaylı xidmətləri dayandırmışdı. “Sony”nin xalis gəlir itkisi 2,7 milyon dollar (təxminən 4,6 milyon manat) olmuşdu.

    AI əsaslı botnetin əsas fərqi tanımadığı cihazlara uyğunlaşa bilməsidir. “Mirai” müxtəlif prosessorlarda işləsə də, zərərli proqram hər yeni sistem üçün insan tərəfindən yenidən hazırlanmalı idi. AI modeli bu prosesi avtomatlaşdıra bilər. Ancaq sınaq sadə təhlükəsizlik boşluğu olan virtual şəbəkədə aparılıb. Modelin tam surətinin hər cihaza köçürüldüyü də göstərilməyib.

    Təcrübə zamanı model hissələrə bölünərək ayrı-ayrı cihazlarda işlədilib. Onun surətləri daha sonra işə düşən modellərə qeydlər ötürüb. Buna görə tədqiqatçılar sistemi internetdə öz-özünə yayılan tam proqramla deyil, başqa kodları cihazlara quraşdıran kiçik idarəetmə aləti ilə müqayisə edirlər. Model izini və davranışını dəyişmək üçün özünü yenidən öyrətməli idi, lakin belə sınaq keçirilməyib. İşləmə parametrləri açıq olan modellərə etibarlı məhdudiyyət qoymaq da hazırda çətindir.

    “Anthropic” internet provayderlərini yoluxmuş müştəriləri xəbərdar etməyə və onların girişini təhlükəsiz saytlarla məhdudlaşdırmağa çağırır. Böyük Britaniyada internetə qoşulan cihazlarda asan tapılan standart parollar artıq qanunla qadağandır. Mütəxəssislər əsas müdafiə yolları kimi cihazların vaxtında yenilənməsini, şəbəkələrin bir-birindən ayrılmasını və güclü parollardan istifadəni göstərirlər. AI hücumları asanlaşdıra bilər, amma qorunan cihazlara yayılmaq yenə də çətin olacaq.