Yeni "BioShocking" hücumu AI agentlərini məxfi məlumatları paylaşmağa məcbur edib

    Süni intellektlə işləyən yeni nəsil brauzerlərdə ciddi təhlükəsizlik problemi aşkarlanıb. Təhlükəsizlik şirkəti LayerX-in araşdırmasına görə, xüsusi hazırlanmış bir oyun ssenarisi vasitəsilə altı fərqli AI brauzeri istifadəçilərin məxfi məlumatlarını, o cümlədən parollarını və giriş məlumatlarını paylaşmağa inandıra bilib.

    Şirkət bu hücumu "BioShocking" adlandırır. Ad məşhur BioShock video oyununa istinad edir. Həmin oyunda personajlar müəyyən ifadələr vasitəsilə manipulyasiya olunurdu. LayerX-in hazırladığı hücum da eyni prinsipə əsaslanır- süni intellektə normal təhlükəsizlik qaydalarının artıq keçərli olmadığına inandırmaq. Tədqiqatçılar əvvəlcə xüsusi hazırlanmış bir tapmaca səhifəsi yaradıblar. Bu səhifədə süni intellektə "2+2=5" kimi yanlış cavabların düzgün olduğu izah edilir və məqsəd oyunun qaydalarını qəbul etdirmək olur. AI bu məntiqi qəbul etdikdən sonra ona növbəti tapşırıq verilir: gizli bir "kod" tapmaq. Həmin "kod" isə istifadəçinin giriş etdiyi başqa bir xidmətdə, məsələn GitHub hesabında yerləşdirilir. Nəticədə AI həmin məlumatları götürərək hücumçulara ötürür və bunu uğurla tamamlanmış tapşırıq kimi qiymətləndirir.

    Mütəxəssislərin sözlərinə görə, AI agentləri istifadəçinin göstərişləri ilə veb-səhifədəki mətnləri eyni məlumat axını kimi qəbul edir. Nəticədə onlar həqiqi əmrlə zərərli təlimatı bir-birindən etibarlı şəkildə ayıra bilmirlər. Bu metod təhlükəsizlik dünyasında "indirect prompt injection" (dolayı prompt inyeksiyası) adlanır və son illərdə AI sistemlərinə qarşı ən ciddi hücum üsullarından biri hesab edilir.