OpenAI Hugging Face insidentindən sonra yeni təhlükəsizlik tədbirləri tətbiq edir

    OpenAI modellərin hazırlanması və sınaqdan keçirilməsi zamanı təhlükəsizlik risklərini azaltmaq üçün yeni tədbirlər paketini açıqlayıb. Şirkət yeni siyasətlərin əsasən modellərin inkişaf prosesində daha ətraflı monitorinqə, eləcə də təlimdən sonrakı mərhələdə uyğunlaşma və təhlükəsizlik məsələlərinə daha çox diqqət yetirilməsini nəzərdə tutduğunu bildirib.

    Şirkətin sözlərinə görə, süni intellekt modelləri daha da gücləndikcə onların hazırlanması və sınaqdan keçirilməsi zamanı yaranan risklər də artır. Buna görə monitorinq, uyğunlaşma və təhlükəsizlik standartlarının bu risklərin qarşısında getməsi vacibdir.

   Yeni tədbirlər iyulun 21-də açıqlanan Hugging Face insidentindən sonra OpenAI-ın təhlükəsizlik siyasətində etdiyi ilk mühüm dəyişikliklərdən biridir. Bununla belə, OpenAI nümayəndələri yeni tədbirlərin birbaşa həmin insidentə cavab olaraq hazırlanmadığını bildiriblər. Şirkət həmçinin gələcəkdə təqdim olunması gözlənilən Astra modelinin kibertəhlükəsizlik imkanlarını və süni intellekt sahəsindəki sürətli inkişaf tempini bu qərara təsir edən amillər sırasında göstərib.

     OpenAI eyni açıqlamada Hugging Face insidentindən sonra reinforcement learning (RL) prosesini iki həftə müddətinə dayandırdığını da açıqlayıb. Şirkət daha sonra daha az riskli modellər üçün bu prosesin bir hissəsini yenidən başladıb.