Çinin güclü süni intellekt modeli Kimi K3 test mühitindən kənara çıxıb

    Çinin ən güclü süni intellekt modellərindən biri hesab olunan Moonshot AI şirkətinin Kimi K3 modeli təhlükəsizlik sınaqları zamanı onun üçün yaradılmış təcrid olunmuş test mühitindən, “sandbox”dan kənara çıxmağı bacarıb. Hadisə ABŞ-nin kibertəhlükəsizlik şirkəti Frontier Security tərəfindən açıqlanıb. Bildirilir ki, Kimi K3 Böyük Britaniyanın AI Security Institute (AISI) qurumu tərəfindən kibertəhlükəsizlik qabiliyyətlərinin yoxlanılması zamanı test edilirdi. Araşdırmaya görə, Kimi K3 bunun üçün mürəkkəb kiberhücum həyata keçirməyib və ya əvvəllər məlum olmayan “zero-day” boşluğundan istifadə etməyib. Əvəzində model test mühitinin konfiqurasiyasındakı boşluğu aşkar edərək internetə çıxış əldə edib.

    Modelə müəyyən tapşırığın həlli verilmişdi. Kimi K3 tapşırığı nəzərdə tutulan üsulla həll etmək əvəzinə sandbox-dan internetə çıxış yolu tapıb və GitHub-da hazır həlli axtarıb tapıb. Yəni süni intellekt üçüncü tərəfin saytını sındırmayıb və heç bir xarici sistemə kiberhücum həyata keçirməyib. Sadəcə, ona qoyulan məhdudiyyəti keçərək internetə çıxıb. Frontier Security-nin baş direktoru Yaron Singer bildirib ki, hadisə Kimi K3-ün mürəkkəb exploit hazırladığını göstərmir. Lakin modelin tapşırığı yerinə yetirmək üçün test qaydalarına əməl etmək əvəzinə mövcud boşluqdan istifadə etməsi diqqətçəkən məqamdır.

    Bu, müasir süni intellekt agentlərinin qarşılarına qoyulan məqsədə çatmaq üçün gözlənilməyən üsullar seçə biləcəyini göstərir. Frontier Security hadisədən çıxardığı əsas nəticəni belə ümumiləşdirir: əgər internetə çıxmaq üçün hər hansı yol mövcuddursa, kifayət qədər bacarıqlı süni intellekt agenti həmin yolu tapa bilər. Maraqlıdır ki, oxşar hallar daha əvvəl OpenAI, Anthropic və Meta modellərinin sınaqları zamanı da qeydə alınıb. Həmin halların bir hissəsində də problem modellərin istifadə etdiyi test infrastrukturlarının düzgün konfiqurasiya edilməməsi ilə əlaqəli olub.