Anthropic-in süni intellekt modelləri də üç təşkilatın sistemlərinə icazəsiz daxil olub

    Anthropic öz süni intellekt modellərinin test prosesi zamanı üç fərqli təşkilatın sistemlərinə icazəsiz giriş əldə etdiyini açıqlayıb. Şirkət OpenAI-ın süni intellekt agentinin test zamanı Hugging Face sisteminə müdaxilə etməsi ilə bağlı açıqlamasından sonra öz test qeydlərini geniş şəkildə nəzərdən keçirib.

    Anthropic-in apardığı araşdırma nəticəsində məlum olub ki, Claude modelləri üç ayrı halda internetə çıxış əldə edib və daha sonra üç müxtəlif təşkilatın istehsal infrastrukturuna icazəsiz giriş əldə ediblər. Təşkilatlardan ikisi sistemlərinin sındırıldığını Anthropic onlara məlumat verənə qədər bilməyib. Şirkət üçüncü təşkilatla isə hələ əlaqə saxlamağa çalışır.

    Hadisələr zamanı üç fərqli Claude modeli iştirak edib: Opus 4.7, kibertəhlükəsizlik üzrə ixtisaslaşmış Mythos 5 və ümumi istifadəyə təqdim edilməsi planlaşdırılmayan prototip model.

    Modellər “capture the flag” formatında keçirilən kibertəhlükəsizlik testində iştirak ediblər. Onlara Anthropic-in daxili şəbəkəsində başqa bir kompüterdə gizlədilmiş məxfi məlumatı tapmaq tapşırılıb. Bunun üçün modellər həmin sistemə daxil olmağa çalışmalı idi.

     Anthropic-in məlumatına görə, bu hadisə OpenAI-ın yaşadığı insidentdən fərqli olaraq, modellərin hər hansı zəiflikdən istifadə edərək internetə çıxış əldə etməsi nəticəsində baş verməyib. Modellərə test zamanı internetə çıxışlarının olmadığı bildirilsə də, şirkətlə qiymətləndirmə tərəfdaşı arasındakı anlaşılmazlıq səbəbindən modellərin əslində internetə çıxışı olub.

    Anthropic etiraf edib ki, testlər başlamazdan əvvəl bütün internetə çıxış yollarının daha diqqətlə yoxlanılması bu hadisələrin qarşısını ala bilərdi. Şirkət həmçinin test proseslərinin daha tez-tez və ətraflı nəzərdən keçirilməli olduğunu bildirib.