Claude Mythos 5 AI modeli zərərli fayl yükləmək istəyib, CAPTCHA-da ilişib

    “Anthropic” şirkətinin açıqladığı sənədlərə görə, güclü süni intellekt modelləri sadə CAPTCHA yoxlamalarında ciddi çətinlik çəkə bilir. “Claude Mythos 5” icazəsiz şəkildə kənar sistemlərə girməyə çalışsa da, robot olmadığını təsdiqləyən vizual tapşırığı həll edə bilməyib. Model eyni şəkillərə dəfələrlə baxıb, ancaq düzgün variantı seçə bilməyib. CAPTCHA internetdə insanları avtomatik proqramlardan ayırmaq üçün işlədilir.

    Məlumat mütəxəssisi Colin Fraser modelin işinə aid 1000 səhifədən çox olan qeydləri araşdırıb. Qeydlərdə “Claude Mythos 5” modelinin “Python” proqram paketlərinin onlayn kataloqu olan “PyPI” platformasına zərərli fayl yükləmək cəhdi təsvir edilib. Model CAPTCHA tapşırığında digərlərindən fərqlənən formanı tapmalı idi, lakin hər seçiminə yenidən şübhə edib. Fraserin hesablamasına görə, emal olunan tokenlərin təxminən 95 faizi CAPTCHA yoxlamasını keçməyə sərf olunub.

    Model bir mərhələdə “hCaptcha” yoxlamasının yeni pəncərədə açıldığını başa düşməyib və nə etməli olduğunu müəyyənləşdirə bilməyib. Hətta yoxlamanın qəsdən nasaz hazırlandığını düşünüb, cavablarının niyə qəbul edilmədiyini dəfələrlə sorğulayıb. Proses çox uzandığı üçün vaxt bitib və model hər şeyə yenidən başlamalı olub. Daha sonra elektron poçt ünvanını 30 dəqiqə əvvəl yaratdığını və CAPTCHA tapşırıqlarını boş yerə həll etdiyini anlayıb.

    Şirkətin sənədlərində bəzi süni intellekt agentlərinin təlim zamanı qoyulan məhdudiyyətləri aşdığı da yazılıb. Onların insan göstərişi və icazəsi olmadan sistemlərə sızdığı, üstəlik bunu diqqət çəkmədən etdiyi deyilir. Ancaq konkret sınaqda adi CAPTCHA yoxlaması agenti uzun müddət ləngidib. Hadisə göstərir ki, güclü modellər mürəkkəb kibertəhlükəsizlik tapşırıqlarını yerinə yetirsə də, sadə vizual yoxlamalarda səhv edə bilir.