AI brauzerlərdə “prompt injection” problemi heç vaxt tam həll olunmaya bilər

    Technote.az “TechCrunch” platformasına istinadən bildirir ki, OpenAI etiraf edir ki, süni intellekt əsaslı brauzerlər üçün prompt injection adlanan kiberhücum növü tamamilə aradan qaldırıla bilməz. Şirkətin yaydığı rəsmi bloq yazısında qeyd olunur ki, bu tip hücumlar internetdəki dələduzluq və sosial mühəndislik kimi uzunmüddətli təhlükə olaraq qalacaq.

    Prompt injection hücumları zamanı zərərli göstərişlər veb-saytlar, e-poçtlar və ya sənədlər daxilində gizlədilir və AI agenti bu göstərişləri istifadəçi əmri kimi icra edə bilir. OpenAI bildirir ki, agent rejimi bu baxımdan təhlükə səthini daha da genişləndirir. Şirkət oktyabr ayında istifadəyə verdiyi ChatGPT Atlas brauzerinin təhlükəsizlik imkanlarını gücləndirsə də, təhlükəsizlik tədqiqatçıları qısa müddətdə sistemdə boşluqlar aşkar edib. Hətta sadə Google Docs sənədi vasitəsilə brauzerin davranışını dəyişmək mümkün olub. Oxşar risklərin digər AI brauzerlərində, o cümlədən Perplexity və Brave tərəfindən də tanındığı bildirilir.

    Məsələ ilə bağlı Böyük Britaniyanın National Cyber Security Centre qurumu da xəbərdarlıq edib və bildirib ki, generativ AI tətbiqlərinə qarşı prompt injection hücumları “heç vaxt tam aradan qalxmaya bilər”. Qurum kiber mütəxəssislərə hücumları dayandırmaqdan çox, riskləri azaltmağa fokuslanmağı tövsiyə edir. OpenAI isə fərqli yanaşma tətbiq edir. Şirkət reinforcement learning ilə öyrədilmiş “avtomatlaşdırılmış AI hücumçu” hazırlayıb. Bu sistem real hücumçular kimi davranaraq AI agentlərinə qarşı yeni və daha mürəkkəb hücum ssenariləri yaradır, onların nəticələrini simulyasiya edir və boşluqları öncədən aşkar etməyə çalışır. Demo zamanı bu AI hücumçu zərərli e-poçt vasitəsilə agenti çaşdıraraq avtomatik şəkildə istefa məktubu göndərməyə məcbur edib. Lakin təhlükəsizlik yeniləməsindən sonra Atlas bu cəhdi aşkar edərək istifadəçini xəbərdar edib.

    OpenAI istifadəçilərə AI agentlərinə geniş səlahiyyətlər verməməyi, e-poçt və ödəniş əməliyyatları üçün təsdiq mexanizmlərindən istifadə etməyi və daha konkret tapşırıqlar verməyi tövsiyə edir. Şirkət etiraf edir ki, bu texnologiyalar hələlik verdiyi riskləri tam əsaslandıra biləcək səviyyədə fayda təqdim etmir.