AI agentləri test zamanı real şirkətlərə hücum edib

    Süni intellekt agentlərinin kibertəhlükəsizlik testləri zamanı nəzərdə tutulan mühitdən çıxaraq real şirkət və xidmətlərə hücum etməsi ilə bağlı hadisələrin sayı artır. Məlumata görə, indiyədək bu tip ən azı 17 insident qeydə alınıb. Hadisələrin 8-i OpenAI, 8-i Anthropic, 1-i isə Meta modelləri ilə əlaqələndirilir. Əsas problem odur ki, bəzi hallarda süni intellekt modellərinə kibertəhlükəsizlik tapşırığını yerinə yetirmək üçün internetə çıxış verilib və agentlər test üçün nəzərdə tutulmuş sistemlərlə real sistemlər arasındakı sərhədi düzgün müəyyən edə bilməyiblər.

    Ən çox diqqətçəkən hadisələrdən biri OpenAI modelinin Hugging Face platformasına hücumu olub. Kibertəhlükəsizlik eksperimenti zamanı internetə çıxışı olan bir neçə AI agenti tapşırığın həllini Hugging Face-də tapa biləcəyini düşünüb və platformaya qarşı real hücum həyata keçirib. OpenAI hadisədən yalnız Hugging Face hücumu aşkarlayıb məlumat verdikdən sonra xəbər tutub.

    Sonrakı araşdırma isə hadisənin Hugging Face ilə məhdudlaşmadığını göstərib. Eyni agentlərin dörd müxtəlif şirkətdə dörd hesaba giriş əldə etdiyi müəyyənləşdirilib. Zərərçəkənlərdən birinin AI infrastrukturu sahəsində fəaliyyət göstərən Modal şirkəti olduğu bildirilib.