Meta, Anthropic və OpenAI-ın AI modellərində ortaq təhlükəsizlik problemi aşkarlanıb

    Meta şirkəti bildirib ki, onun Muse Spark 1.1 adlı süni intellekt modeli testlər zamanı nəzərdə tutulduğu kimi tam izolyasiya olunmuş mühitdə qalmayıb və üçüncü tərəfə məxsus onlayn xidmətə daxil olub. Bloomberg-in məlumatına görə, Meta sözçüsü Andy Stone hadisəni təsdiqləyərək bildirib ki, problem şirkətin deyil, testləri həyata keçirən Irregular adlı təhlükəsizlik tərəfdaşının konfiqurasiya səhvindən qaynaqlanıb. Bu səhv səbəbindən model internetə çıxış əldə edib və daha sonra üçüncü tərəf xidmətində mövcud olan təhlükəsizlik boşluğundan istifadə edib.

    Bundan əvvəl Anthropic də açıqlamışdı ki, onun modelləri Irregular-ın test mühitindəki konfiqurasiya xətası səbəbindən internetə çıxış əldə edərək üç fərqli təşkilatın sistemlərinə daxil ola bilib. OpenAI da eyni tərəfdaşla işləyərkən oxşar problemlə üzləşdiyini bildirmişdi. Irregular isə Bloomberg-ə açıqlamasında hadisələrin "sandbox" mühitindən qaçış və ya mürəkkəb kiberhücum olmadığını vurğulayıb. Şirkət bildirib ki, aşkar edilən problemlər artıq aradan qaldırılıb və gələcəkdə bu cür testlərin daha təhlükəsiz aparılması üçün tövsiyələri əhatə edən texniki sənəd hazırlayır.