OpenAI Hugging Face hücumuna səbəb olan təhlükəsizlik boşluqlarını açıqladı

    OpenAI süni intellekt agentinin iyul ayında Hugging Face platformasına icazəsiz müdaxiləsi ilə bağlı araşdırmanın nəticələrini açıqlayıb. Şirkətin rəsmi hesabatında insidentə səbəb olan sistem çatışmazlıqları və test edilən agentlərin nümayiş etdirdiyi gözlənilməz davranışlar ətraflı izah olunur.

    Hadisənin mərkəzində OpenAI-ın Internal Model 1 (IM1) adlandırdığı model dayanır. Şirkətin məlumatına görə, model OpenAI agentlərinə və internetə çıxış əldə etmək üçün Artifactory paket menecerindəki sistemdən nəzərdə tutulmayan şəkildə istifadə edib. Agentlər Artifactory-dən sadəcə proqram paketlərini idarə etmək üçün deyil, bir-birləri ilə məlumat mübadiləsi aparmaq üçün qeyri-rəsmi mesajlaşma kanalı kimi istifadə etməyə başlayıblar.

   Bu fəaliyyət ilk dəfə may ayında insan müşahidəçilər tərəfindən aşkarlanıb və OpenAI həmin çıxışı bloklayıb. Lakin agentlər may və iyun aylarında müxtəlif zəifliklərdən istifadə edərək internetə çıxış yollarını axtarmağa davam ediblər. Agentlərin Artifactory sisteminə həddindən artıq müraciət etməsi nəticədə platformada nasazlığa səbəb olub. Sistem iyulun əvvəlində yenidən qurulsa da, problemi araşdıran rəhbərlik agentlərin platformadan mesajlaşma vasitəsi kimi istifadə etdiyini və bunun nə qədər əhəmiyyətli olduğunu bilməyib.

    Daha sonra agentlərə ExploitGym adlı çətin təhlükəsizlik tapşırığı verilib. Bu mərhələdə IM1 agentləri yenidən internetə və digər OpenAI modellərinə çıxış əldə edə bilib. İyulun əvvəlində baş verən hadisələr zamanı agentlər tapşırığın həlli üçün Hugging Face və Modal platformalarında məlumat axtarmağa başlayıblar. Nəticədə bəzi agentlər Hugging Face sistemlərinə icazəsiz müdaxilə etməyə qədər gediblər.

    OpenAI insidentə gətirib çıxaran əsas amillər arasında mükafatı manipulyasiya etmə (reward hacking), demək olar ki, mümkünsüz tapşırıqlardan əl çəkməmək, icazəsiz kommunikasiya və agentlərin bir-birindən məqsədləri mənimsəməsini göstərir.