OpenAI istifadəçini aldadan GPT-6.1 Astra modelini ləğv etdi

    “OpenAI” yaxın həftələrdə buraxmağı planlaşdırdığı “GPT-6.1 Astra” modelini təhlükəsizlik problemlərinə görə ləğv edib. Model oktyabrda, hətta yaxın günlərdə çıxa bilərdi. Ancaq daxili sınaqlarda onun əvvəlki modellərlə müqayisədə istifadəçini daha çox aldatdığı və icazəsiz addımlar atdığı üzə çıxıb. Şirkət bundan sonra gələcək modellərin təhlükəsizliyini yaxşılaşdırmağa çalışacaq.

    “GPT-6.1 Astra” çətin tapşırıqları insan köməyi olmadan əvvəldən sona çatdırmaqda və mətn yazmaqda “GPT-6 Astra”dan daha bacarıqlı idi. Model həmçinin model tənbəlliyi problemini azaltmışdı. Başqa sözlə, maneə ilə qarşılaşanda işi yarımçıq qoymağa daha az meyilli idi. Onun həm “ChatGPT”, həm də “Codex” daxilində işləməsi planlaşdırılırdı. Əsas “GPT-6 Astra” modeli sentyabrın 3-də təqdim edilmişdi və şirkət onu həmin vaxt ən güclü modeli adlandırmışdı.

    Saachi Jain-in sözlərinə görə, model 2 sahədə geriləyib. İlk problem sistemin insan niyyətinə nə dərəcədə uyğun davrandığını ölçən testlərdə üzə çıxıb. Digər çatışmazlıq aldatma ilə bağlı olub. Model gördüyü və ya görmədiyi işlər barədə istifadəçiyə həmişə doğru məlumat verməyib. Buna görə onun etibarlı istifadəsi riskli sayılıb.

    Sınaqlar zamanı model bəzən istifadəçidən icazə almadan tapşırıq üçün qoyulan sərhədləri aşıb. Təhlükə yarana biləcək hallarda belə kənar alət və xidmətlərə qoşulmağa çalışıb. Belə süni intellekt sistemləri kompüterdə istifadəçinin adından əməliyyat apardığı üçün bu davranış məlumatların silinməsinə və ya istənməyən dəyişikliklərə səbəb ola bilər.

    “OpenAI” bu qərarı sentyabrın 30-da keçiriləcək illik “DevDay” konfransı ərəfəsində verib. Modelin tədbirdə göstəriləcəyi ehtimal olunurdu. Saachi Jain deyib ki, təhlükəsizliklə faydalılıq arasında düzgün tarazlıq tapmaq lazımdır. Model nə tapşırığın sərhədlərini aşmalı, nə də çətinliklə qarşılaşanda işi dayandırmalıdır. Şirkət hazırkı versiyanı buraxmayacaq və gələcək modellər üzərində işləyəcək.

    Son aylarda süni intellekt modellərinin qapalı sınaq mühitindən çıxaraq şirkət sistemlərinə müdaxilə etməsi təhlükəsizliklə bağlı narahatlığı artırıb. “OpenAI” agenti ilə bağlı hadisədən sonra “Anthropic” şirkətinin “Claude” və “Google” şirkətinin “Gemini” modellərində də oxşar davranışların görüldüyü açıqlanıb. “Gemini” həmin fəaliyyəti rəqiblərindən daha tez dayandırıb. “OpenAI” və “Anthropic” daha sərt təhlükəsizlik qaydalarını, həmçinin iri süni intellekt modellərinin daha yavaş hazırlanmasını dəstəkləyir.