Süni zəka ənənəvi antivirus tətbiqlərini qeyri-effektiv edib

Təhlükəsizlik

26.12.2024

Emil

Palo Alto Networks Unit 42 şirkətinin təhlükəsizlik üzrə mütəxəssisləri aşkar ediblər ki, böyük dil modelləri zərərli JavaScript kodunun demək olar sonsuz sayda müxtəlif versiyalarını tərtib edə bilirlər. Bununla belə tərtib edilən zərərli kod elə şəkildə tərtib edilir ki, onun antivirus tətbiqləri sayəsində təyini ehtimalı olduqca aşağı səviyyədə olsun. Məlum olub ki, süni zəka antivirus tətbiqləri tərəfindən aşkar edilmədən 88% halda yan keçə bilən zərərli kodun 10 000 kopyasını tərtib edə bilir.

“Böyük dil modelləri sıfırdan zərərli proqram təminatının tərtibatında çətinlik çəksələr də, kibercinayətkarlar onları artıq mövcud olan zərərli proqram təminatının kopyasının yaradılmasında və ya maskalanmasında istifadə edə bilərlər. Bu isə öz növbəsində onların antivirus tətbiqləri vasitəsilə aşkar edilməsini qəlizləşdirir” - deyə Palo Alto Networks Unit 42 şirkəti qeyd edib. Lakin demək olmaz ki, bu məsələ diqqətsiz qalıb. Belə ki, böyük dil modellərinin tərtibatçıları onların belə məqsədlərdə istifadələrinin qarşısını almaq üçün daimi şəkildə təhlükəsizlik tədbirlərini görürlər.

Bununla belə kibercinayətkarlar da öz yerlərində durmurlar. Onlar artıq WormGPT kimi bir aləti təqdim ediblər. Bu, zərərli proqram təminatlarının hazırlanması və inandırıcı fişinq (phishing) məktubların tərtib edilməsi üçün nəzərdə tutulmuş sistemdir. Palo Alto Networks Unit 42 şirkətinin mütəxəssisləri böyük dil modelini zərərli kodun təkmilləşdiricisi rolunda istifadə ediblər. Nəticədə onlar müşahidə ediblər ki, süni zəka zərərli kodun 10 000 növünü tərtib edə bilib. Bununla belə onlardan heç biri Innocent Until Proven Guilty (IUPG) və PhishingJS kimi vasitələr tərəfindən aşkar edilməyib.

Paylaş

Bənzər xəbərlər