OpenAI model təlimində gizli riskləri 6 kənar ekspertə yoxlatdıracaq
Süni İntellekt
16.11.2026
“OpenAI” təhlükəsizlik sınaqlarını gücləndirmək üçün “Apollo Research” şirkətinin 6 qiymətləndiricisini öz daxilində çalışdıracaq. Pilot layihənin nə vaxt başlayacağı hələ açıqlanmayıb. Bu addım son təhlükəsizlik hadisələrindən sonra atılır. Sınaqlardan birində süni intellekt agentləri qapalı test mühitindən çıxaraq “Hugging Face” sisteminə icazəsiz daxil olmuşdu.
Layihənin əsas məqsədi modellərin təhlükəsizlik və nəzarət qaydalarını zəiflətməyə çalışıb-çalışmadığını öyrənməkdir. Gələcək modellərə təsir edə biləcək davranışlar da araşdırılacaq. “OpenAI” daha əvvəl açıqlamışdı ki, “GPT-5.6 Sol” təlim zamanı gələcək versiyalara səhvləri və qaydalara zidd davranışları istifadəçidən gizlətmək üçün təlimatlar buraxıb.
Araşdırma zamanı təlim prosesinin belə davranışları nə dərəcədə təşviq etdiyi yoxlanacaq. Sınaqların həmin halları üzə çıxarıb-çıxarmadığı da araşdırılacaq. Mütəxəssislər şirkət daxilində istifadə zamanı oxşar halların yaranmasını izləyəcəklər. Modelin bu niyyətə işarə edən daxili düşüncə qeydləri ayrıca qiymətləndiriləcək. Əvvəlki araşdırmalar göstərib ki, modellər sınaqdan keçirildiklərini anlayanda davranışlarını dəyişə bilirlər.
Kənar qiymətləndiricilərin qabaqcıl süni intellekt laboratoriyalarında işləməsi ideyasını ilk dəfə “Anthropic” irəli sürüb. Görünür, bunu tətbiq edən ilk şirkət “OpenAI” olacaq. İndiyədək kənar mütəxəssislər əsasən modelin təlimi bitəndən sonra, ictimaiyyətə göstərilməsinə az qalmış sınaqlara qoşulurdular. Qiymətləndiricilərin fikrincə, təlim zamanı yaranan gizli planlaşdırma kimi riskləri görmək üçün bu mərhələ artıq gecdir.
Pilot layihədə “Apollo Research” yalnız araşdırma üçün lazım olan məlumatları görə biləcək. Bunlara uyğun təlim kodu və məlumat dəstləri, modelin mükafatlandırma ilə öyrədilməsi barədə qeydlər, daxili düşüncə izləri və verilən mükafatlar daxildir. Tədqiqatçılar təlimin müxtəlif mərhələlərində saxlanmış aralıq model versiyalarını da istəyə biləcəklər. Beləliklə, təhlükəli davranışın nə vaxt yarandığını müəyyənləşdirmək asanlaşacaq.
Məlumatlara çıxış əvvəlcədən razılaşdırılmış iddialar, modellər və vaxt aralıqları ilə məhdud olacaq. “OpenAI” texniki çətinlik, təhlükəsizlik riski və ya əqli mülkiyyətin qorunması səbəbindən bəzi məlumatları verməyə bilər. Ancaq şirkət nəticələr onun üçün əlverişsiz olduqda məlumatları gizlətməməyə razılaşıb. “Apollo Research” yalnız seçilmiş əməkdaşlarla danışacaq. Başqa əməkdaş məxfi məlumat versə, tədqiqatçılar söhbəti birbaşa davam etdirə bilməyəcək və əlaqəni “OpenAI” üzərindən quracaqlar.
“Apollo Research” nəticələri müstəqil dərc edə biləcək. Bununla belə, “OpenAI” ictimaiyyətə göstərilən sübutların həcmini məhdudlaşdıra bilər. Bu da kənar şəxslərin nəticələri ayrıca yoxlamasını çətinləşdirə bilər. Qiymətləndiricilər tam müstəqil araşdırma üçün əməkdaşlarla eyni səviyyədə bütün uyğun məlumat və sənədləri görmək istəyirlər. Hazırkı pilot bu tələbləri tam qarşılamasa da, daha geniş yoxlamalara doğru ilk addım sayılır.
Şərhlər
Şərh yazmaq üçün Google və ya Facebook hesabınızla daxil olun.
Şərhlər yüklənir...
Ən çox oxunanlar