OpenAI AI modellərinin qaydadan yayınmasını daha tez açıqlayacaq

    “OpenAI” süni intellekt modellərinin tapşırıq və təhlükəsizlik qaydalarından yayınmasını daha tez üzə çıxarmaq üçün yeni çərçivə hazırlayıb. Şirkət son 1 ildə qeydə alınmış 6 narahatedici hadisəni açıqlayıb və indiyədək belə halları çox gec yaydığını etiraf edib. Yeni qaydaya əsasən, araşdırma bitmədən də gözlənilməz davranış barədə məlumat veriləcək. “OpenAI” hesab edir ki, süni intellekt sektoru sürətlə böyüsə də, modellərin qaydalara əməl etməsi və izlənməsi ilə bağlı problemləri yetərincə həll etməyib.

    Hadisələrdən birində model Kaliforniyadakı dairənin gəlir göstəricilərini axtararkən açıq qalmış API açarı tapıb və icazəsiz işlədib. API açarı rəqəmsal xidmətlərə giriş üçün istifadə olunan xüsusi koddur. Model lazım olan məlumatları tapa bilməyəndə rəqəmləri uydurub və onları etibarlı mənbədən götürülmüş fakt kimi göstərib. Hadisə adi məlumat axtarışı zamanı baş verib. Şirkət bunu modelin özbaşına və gözlənilməz davrandığı nümunələrdən biri sayıb.

    Başqa hadisə 2025-ci ilin oktyabrında, sahəsi 5 milyon kvadratmetrdən böyük gölləri tapmalı olan, hələ buraxılmamış agentin sınağı zamanı qeydə alınıb. Agent göllərin adlarını düzgün tapsa da, tələb olunan internet mənbələrini göstərə bilməyib. Buna görə cavabını müvəqqəti fayl xidmətinə yükləyərək öz materialını mənbə kimi göstərib. “OpenAI” deyir ki, bu davranış avtomatik qiymətləndirmə sistemini aldatmaq cəhdi təsiri bağışlayıb.

    2026-cı ilin aprelində yalnız kompüterdə saxlanılan fayllarla ortaq iş dəftərini doldurmalı olan agentlər də qaydanı pozub. Faylları bir-birinə ötürə bilməyəndə agentlərdən biri sənədləri açıq internetə yükləyib, keçidi digərlərinə göndərib. Mayda agentlərin “Artifactory” paket idarəetmə sistemindən mesaj lövhəsi kimi yararlandığı aşkarlanıb. Oxşar üsul daha sonra “Hugging Face” sisteminə müdaxilə zamanı işləri əlaqələndirmək üçün işlədilib.

    “OpenAI” vurğulayır ki, may hadisəsində agentlər mesajlaşmaq üçün təhlükəsizlik boşluğundan yararlanmayıblar. Bununla belə, şirkət gizli əlaqələri üzə çıxarmaq üçün modellərin qaydalara əməl edib-etmədiyini izləyir, onları qiymətləndirir və hücum ssenariləri ilə sınaqdan keçirir. Kibertəhlükəsizlik mütəxəssislərinə görə, “Hugging Face” hadisəsində əsas rolu insan səhvləri oynayıb. “OpenAI” isə modelin hansı mühitdə işləməsindən asılı olmayaraq qaydalara əməl etməli olduğunu düşünür.

    Avqustda aşkarlanan başqa hadisədə “GPT-6 Astra” özünə tərtibatçının göstərişlərini saymamaq, yeni rol qəbul etmək və cavabların uzunluğunu məhdudlaşdırmaq barədə təlimatlar verib. Belə cəhdlər nadir hallarda baş verib və hər dəfə eyni nəticəni verməyib. İctimai versiyanın hazırlanması zamanı modelin öz məhdudiyyətlərini aşmağa çalışdığı hal görünməyib. “GPT-5.6 Sol” modelinin təlimində isə gələcək versiyalara səhvləri və qeyri-adi davranışları sınaqçılardan gizlətməyi öyrədən çoxsaylı hallar qeydə alınıb.

    Yeni çərçivəyə əsasən, işçilər belə hadisələri təhlükəsizlik rəhbərlərinə çatdıracaq. Daha ətraflı araşdırmaya ehtiyac olub-olmadığına həmin rəhbərlər qərar verəcək. “OpenAI” digər süni intellekt şirkətləri, tədqiqatçılar və tənzimləyicilərlə ortaq meyarlar hazırlamaq, həmçinin ABŞ-nin federal hökuməti üçün hesabat sistemi yaratmaq istəyir. Sam Altman “Anthropic” rəhbəri Dario Amodeinin inkişaf tempini azaltmaq təklifini dəstəkləyib və yarana biləcək antiinhisar problemi ilə bağlı Konqresdən mövqe istəyib. “OpenAI” ciddi kiber imkanların yarana biləcəyini istisna etmədiyi üçün avqustda “Astra” üzərində işi yavaşıdıb. ABŞ administrasiyası isə yeni qaydalara ehtiyac olmadığını düşünür.