GLM-5.2 modeli OpenAI və Anthropic-ə yaxınlaşdı

    Süni intellekt sahəsində "open-weight" modellər sürətlə inkişaf edir və artıq dünyanın ən güclü AI sistemlərinə yaxın performans göstərməyə başlayıb. Lakin ekspertlər xəbərdarlıq edirlər ki, bu inkişaf təhlükəsizlik baxımından ciddi risklər yarada bilər. AI təhlükəsizliyi üzrə fəaliyyət göstərən SaferAI təşkilatının yeni hesabatına görə, Çinin Z.ai şirkətinin hazırladığı GLM-5.2 modeli imkanlarına görə OpenAI-ın GPT-5.5 və Anthropic-in Claude Opus 4.7 modellərindən cəmi bir neçə ay geri qalır. Bununla yanaşı, modelin təhlükəli sorğulara qarşı demək olar ki, heç bir məhdudiyyət tətbiq etmədiyi bildirilir.

    Araşdırma zamanı GLM-5.2 kibertəhlükəsizlik və ikili təyinatlı biologiya ilə bağlı verilən təhlükəli tapşırıqların heç birini rədd etməyib. Müqayisə üçün, Anthropic-in Claude Opus 4.7 modeli eyni sorğuların böyük hissəsini cavablandırmaqdan imtina edib. Mütəxəssislərin əsas narahatlığı ondan ibarətdir ki, open-weight modellərin tam çəkiləri istifadəçilərə təqdim olunduğu üçün onlar şəxsi kompüterlərdə və ya serverlərdə heç bir nəzarət olmadan işlədilə bilər. Bu zaman təhlükəsizlik filtrləri asanlıqla silinə, dəyişdirilə və ya tamamilə deaktiv edilə bilər.

    Qapalı AI modelləri hazırlayan OpenAI və Anthropic kimi şirkətlər isə API səviyyəsində təhlükəsizlik mexanizmləri, sorğuları rədd etmə sistemi və müxtəlif filtrlərdən istifadə edərək zərərli istifadənin qarşısını almağa çalışırlar. Bu müdafiə üsulları mükəmməl olmasa da, açıq modellərlə müqayisədə daha yüksək nəzarət imkanı yaradır.