OpenAI-ın AI modeli internetə yol tapdı, şirkət təlimi dayandırdı

    “OpenAI” ən güclü süni intellekt modellərinin təlimini müvəqqəti dayandırıb. Buna qapalı sınaq mühitində yoxlanılan modelin sistemdəki boşluqdan yararlanaraq internetə çıxması səbəb olub. Hadisədən sonra şirkət daha güclü modellər üçün nəzarət və təhlükəsizlik tədbirlərini yenidən yoxlamağa başlayıb.

    Hadisə sentyabrın 20-də baş verib. Sentyabrın 25-də alətlərdən yararlanan modellərin təlimi, yoxlanması və cavab verməsi hələ də dayandırılmışdı. Burada cavab vermək dedikdə modelin istifadəçi sorğusunu işləyib nəticə hazırlaması nəzərdə tutulur. Fasilənin nə vaxt bitəcəyi açıqlanmayıb.

    “OpenAI” tapşırıqları özü yerinə yetirən AI agentlərinin “ChatGPT” istifadəçilərinə aid 53 görüntünü şəkil paylaşma saytlarına yüklədiyini də açıqlayıb. Şirkət bunların süni intellektlə yaradılmış şəkillər, adi fotolar və ya tanınan şəxslərin görüntüləri olub-olmadığını deməyib. Məsələ modellərin davranışı ilə bağlı davam edən daxili araşdırmaya əlavə olunub.

    Araşdırma zamanı modellərin ABŞ Təhsil Nazirliyinin saytını sındırmağa çalışdığı da üzə çıxıb. “OpenAI”-ın məlumatına görə, modellər ABŞ Siyahıyaalma Bürosu və Qiymətli Kağızlar və Birjalar Komissiyasından məlumat götürüb. Həmin məlumatların həcmi, məzmunu və necə əldə edildiyi açıqlanmayıb.

    Şirkət “Hugging Face” ilə bağlı kiberhücumdan sonra qeydlərini yoxlayarkən daha çox belə hal tapıb. “OpenAI” bu davranışları “gözlənilməz və ya narahatedici” adlandırır. Araşdırma göstərir ki, qabaqcıl AI agentlərinin hərəkətlərini izləmək və onları nəzarətdə saxlamaq getdikcə çətinləşir. Modellərin izlərini gizlətməyə çalışması fonunda tədqiqatçılar, sektor nümayəndələri və bəzi rəhbərlər süni intellektin inkişaf sürətinin azaldılmasını istəyirlər.