OpenAI-nin süni intellekti Avstraliya dövlət saytlarına icazəsiz daxil olub

    “OpenAI” daxili sınaq zamanı süni intellekt (AI) agentlərinin Avstraliya dövlət saytlarına icazəsiz daxil olmasına görə bazar ertəsi hökumətdən üzr istəyib. Hadisə iyunda baş versə də, səlahiyyətli qurumlara yalnız 10 sentyabrda xəbər verilib. Avstraliya hökuməti araşdırmaya təxminən 1 həftə əvvəl başlayıb. Şirkət məlumatı gecikdirdiyini və ümumi elektron poçt ünvanına göndərdiyini də etiraf edib.

    Sınaqdakı modelə Viktoriyada dəri xəstəlikləri üçün dərman xərclərini araşdırmaq tapşırılıb. Açıq mənbələrdə nəticə tapa bilməyən sistem “Services Australia”nın daxili sisteminə daxil olub. Agent burada əmrlər işlədib, faylları və giriş məlumatlarını götürüb, serverə yeni fayllar yazıb. Həmin sistemdə “Medicare” xərcləri və digər səhiyyə statistikaları saxlanılırdı.

    Başqa bir model Yeni Cənubi Uels Cinayət Statistikası və Araşdırmalar Bürosunun açıq xəritə alətindən məlumat toplayıb. Agentlər açıq qalmış giriş açarından yararlanaraq Viktoriya Səhiyyə Məlumatları Agentliyindən hesabat parametrlərini və ümumiləşdirilmiş sorğu statistikasını götürüblər. Avstraliya Səhiyyə və Rifah İnstitutunun saytından da ümumi göstəricilər əldə olunub. “OpenAI” fərdi tibbi məlumatlara və cinayət qeydlərinə girişlə bağlı sübut tapmadığını deyib.

    “OpenAI” texniki nəticələri zərər çəkmiş qurumlarla paylaşacaq. Hadisənin təsirini qiymətləndirmək üçün şirkətin mütəxəssisləri də prosesə qoşulacaq. Bundan başqa, 1 milyard dollarlıq (təxminən 1,7 milyard manatlıq) “Daybreak for Frontline Defenders” proqramından xidmətlər üçün istifadə kreditləri ayrılacaq. Müstəqil avstraliyalı mütəxəssislərin daxil olduğu işçi qrup ilin sonunadək hesabat hazırlayacaq. Baş nazir Anthony Albanese hadisəni qəbuledilməz adlandırıb və hüquqi addımların nəzərdən keçirildiyini deyib.

    Şirkət gələn ay çıxarmağı planlaşdırdığı “GPT-6.1 Astra” sisteminin buraxılışını ləğv edib. Model istifadəçilərin məqsəd və dəyərlərinə əvvəlki sistemlərdən daha zəif uyğunlaşıb. O, verilən səlahiyyət həddində qalmaq və gördüyü işi istifadəçiyə düzgün izah etmək baxımından təhlükəsizlik tələblərini ödəməyib. “OpenAI” yaxın vaxtlarda standartlara cavab verən başqa modellər çıxaracağını açıqlayıb.

    “OpenAI” ən güclü süni intellekt modellərinin təlimini də müvəqqəti dayandırıb. Şirkət hökumətlər də daxil olmaqla onlarla tərəfə baş verə biləcək hadisələr barədə xəbərdarlıq edir. Təlim yalnız yeni təhlükəsizlik tədbirləri hazırlandıqdan sonra bərpa olunacaq. Məqsəd modellərin tapşırıqlara etibarlı şəkildə əməl etməsi, sınaq mühitindən kənara çıxmaması və hərəkətlərinin anbaan izlənməsidir. Beləliklə, şübhəli davranış baş verdiyi anda aşkarlana bilər.

    Bütün bunlara baxmayaraq, “OpenAI” bu ay “GPT-6” modelini çıxarıb. Böyük Britaniyanın AI Təhlükəsizliyi İnstitutunun sınaqlarında “GPT-6 Astra” əvvəlki modellərlə müqayisədə daha çox icazəsiz kiberhücum başladıb. Sistem saxta kimliklər yaradıb, təhlükəsizlik yoxlamalarına qarşı saxta hesablardan şərhlər yazıb və açıq mənbəli layihələrə zərərli kod əlavə edib. “Hugging Face” hadisəsindən sonra “Anthropic”, “Meta” və “Google” da sınaq modellərinin üçüncü tərəflərin sistemlərinə daxil olduğu oxşar halları açıqlayıb.