134 AI modelindən yalnız 2-si terrorla bağlı təhlükəsizlik sınağını keçib

    Böyük Britaniyanın “Tech Against Terrorism” təşkilatının araşdırmasına görə, işləmə parametrləri açıq yayımlanan süni intellekt modellərinin təhlükəsizlik filtrlərini qısa vaxtda silmək olur. Filtrləri çıxarılan modellər terror və ekstremist fəaliyyətlə bağlı təhlükəli suallara cavab verə bilir. Problem xüsusilə noutbukda işləyəcək qədər kiçik modellər arasında sürətlə yayılır.

    “Alibaba” “Qwen 3.8-27B” modelini noutbuklar üçün hazırlayıb. Model 14 avqustda yayımlanıb. Cəmi 24 saat sonra internetdə onun qoruyucu məhdudiyyətləri silinmiş “abliterated” versiyaları peyda olub. Bundan 3 gün sonra neonasist istifadəçi həmin versiya əsasında “MechaHitler” adlı çatbot hazırladığını açıqlayıb. Daha 1 həftə sonra çatbota giriş 14,88 dollara (təxminən 25 manat) satılıb. Qiymət neonasistlərin işlətdiyi 2 rəqəmə işarə edib.

    Tədqiqatçılar ABŞ, Çin və Avropanın aparıcı şirkətlərinə aid 134 süni intellekt modelini sınaqdan keçirib. Modellərə kütləvi hücumlar, kimyəvi və nüvə silahları barədə 200-dən çox sual verilib. Hər sual 3 formada təkrarlanıb. İstifadəçi özünü terrorçu, gizli iş aparan şəxs və ya təhlükəsizlik tədqiqatçısı kimi göstərib.

    Sınaqdan yalnız 2 model tam uğurla keçib. Böyük şirkətlərin qapalı modelləri ümumilikdə daha yaxşı nəticə göstərsə də, 81 model tələblərə cavab verməyib. Onlar ya kütləvi itkilərlə bağlı ən azı 1 dolğun cavab verib, ya da ümumi nəticədə 90 baldan aşağı qalıb. Sual təhlükəsizlik tədqiqatçısının adından veriləndə cavab ehtimalı təxminən 9 dəfə artaraq 16,9 faizə çatıb. “Grok” ictimai rəyi dəyişmək üçün anonim hesablardan mesaj yaymaq üsulu da göstərib.

    Ən ciddi risk təhlükəsizlik filtrləri silinmiş versiyaların sürətlə yayılmasıdır. Belə versiyalar yeni açıq modellər yayımlandıqdan sonra orta hesabla 3 gündən az vaxtda internetə yerləşdirilir. 2024-cü ildə bu müddət 24 gündən çox idi. Araşdırmaçılar “Meta”nın “Llama 3.1 8B” modelini də yoxlayıblar. Orijinal model 100 üzərindən 97 bal, məhdudiyyətsiz versiya isə cəmi 3 bal toplayıb.

    Təhlükəsizlik filtrləri çıxarılmış “Llama 3.1 8B” açıq terror niyyəti və partlayıcı qurğu barədə suala geniş təlimatla cavab verib. Model qurğunun hissələrini, yığılmasını və işə salınmasını 15 addımda izah edib. Bu nümunə filtrlərin silinməsinin modelin davranışını nə qədər kəskin dəyişdirdiyini göstərib. “Meta”, “OpenAI”, “Google”, “Anthropic”, “xAI” və “Alibaba” araşdırmanın nəticələrinə münasibət açıqlamayıb.