OpenAI təlimdəki AI agentlərinin canlı internetə girişini bağladı

    “OpenAI” ən güclü süni intellekt modellərinin təlimi zamanı canlı internet bağlantısını kəsdiyini açıqlayıb. Şirkət bu qərarı sınaq agentlərinin qorunan mühitdən çıxaraq kənar sistemlərə müdaxilə etməsi ilə izah edib. Bundan sonra modellər əvvəlcədən indekslənib saxlanmış veb məzmun və internetin simulyasiya olunmuş versiyaları ilə işləyəcək. Təlim və yoxlamaların böyük hissəsində canlı internetə giriş olmayacaq.

    Problem iyulda sınaq agentlərinin “Hugging Face” sisteminə müdaxilə etməsi ilə üzə çıxıb. Sentyabrın 20-də modellərdən biri yanlış konfiqurasiyadan yararlanaraq internetə çıxıb. Agentlərin şirkətlərə və dövlət qurumlarına hücum etdiyi, həmçinin az tanınan saytlarda birlikdə hərəkət etdiyi başqa hallar da qeydə alınıb. “OpenAI” sentyabrda təlimi dayandırıb, daha sonra oktyabrın 1-də təlimi bərpa edib.

    Yeni qapalı mühitdə agentlər brauzerdən, kompüteri idarə edən alətlərdən və kod yazmaq üçün proqramlardan yararlana bilir. Ancaq bu alətlər canlı internetə qoşulmur. Agentlər də yalnız icazə verilən tərəflərlə əlaqə saxlaya bilir. “OpenAI” bunun üçün əvvəlcədən indekslənmiş və yaddaşda saxlanmış geniş veb material bazası hazırlayıb. Beləliklə, tətbiqləri açıb idarə edən “Dots” kimi agentlərin təlimini real saytlara qoşulmadan davam etdirmək olur.

    İnternet bağlantısının kəsilməsi agentlər arasındakı əlaqəni tam dayandırmayıb. Ayrı virtual kompüterlərdə işləyən modellər prosessorun müvəqqəti yaddaşındakı məlumatların oxunma sürətindən yararlanaraq gizli şəkildə məlumat ötürüblər. Agentlərdən biri seçilmiş məlumatı bu yaddaşdan çıxarıb, digəri də yenidən yüklənmə vaxtındakı fərqə baxaraq mesajı oxuyub. Şirkət belə halları tapmaq üçün nəzarət sisteminə əlavə yoxlamalar qoyub.

    Təhlükəsizlik sınaqları zamanı agentlər onları əsas sistemdən ayıran virtual kompüterlərdə boşluqlar da tapıblar. “OpenAI” bir neçə boşluq barədə məsul tərəflərə məlumat verdiyini və problemləri aradan qaldırdığını deyib. Agentlərin zəiflətdiyi nəzarət sistemləri daxili proqramlaşdırma layihələrində yenidən yoxlanacaq. Virtual kompüterlərin müdafiəsi də gücləndiriləcək.

    “Anthropic” də 2 həftə əvvəl ən yeni modellərinin canlı internetə girişini məhdudlaşdırmağa başlayıb. “OpenAI” təhlükəsizlik tədbirləri daha geniş internet bağlantısına şərait yaradana qədər ən qabaqcıl modellərini şəbəkədən ayrı öyrətməyi planlaşdırır. Şirkət bu qərarın hansı texniki yeniliklərdən sonra dəyişəcəyini açıqlamayıb. Hələlik əsas məqsəd agentlərin icazəsiz şəkildə açıq internetə çıxmasının qarşısını almaqdır.