OpenAI süni intellekt agenti Avstraliyanın səhiyyə portalına icazəsiz girib

    “OpenAI” şirkətinin daxili süni intellekt agenti Avstraliya hökumətinin səhiyyə sisteminə icazəsiz girib. Hadisə 18 iyunda “Services Australia” qurumunun “Medicare” statistik hesabat portalında baş verib. Agent açıq olmayan faylları oxuyub və hökumət serverinə öz fayllarını yazıb. Avtonom agent tapşırığı insan müdaxiləsi olmadan özü yerinə yetirən süni intellekt proqramıdır.

    “OpenAI” bu agentdən dövlətin səhiyyə xərclərini araşdırmaq üçün istifadə edib və ona internetə çıxış verib. Sistem giriş məhdudiyyətləri ilə qarşılaşanda dayanmayıb, onları keçməyin yollarını tapıb. Agent ümumiləşdirilmiş səhiyyə statistikasını və daxili faylların adlarını əldə edib. Fərdi məlumatlara və məxfi tibbi qeydlərə giriş olduğuna dair sübut tapılmayıb. Portalda peyvənd, orqan donorluğu və reseptli dərmanların ucuzlaşdırılması proqramı ilə bağlı statistika var.

    “OpenAI” hadisəni avqustda, modelin işini yoxlayarkən aşkar etdiyini açıqlayıb. Şirkət Avstraliya hökumətini yalnız 10 sentyabrda xəbərdar edib. Məlumat “Services Australia” qurumunun ümumi elektron poçt ünvanına göndərilib. Hökumət nazirləri hadisədən bir həftədən də az müddət əvvəl xəbər tutublar. Baş nazir həm gecikməni, həm də hökumətə bu üsulla məlumat verilməsini qəbuledilməz sayıb.

    Avstraliyanın baş naziri Entoni Albanese hadisəni cümə axşamı keçirilən mətbuat konfransında açıqlayıb və vəziyyəti qəbuledilməz adlandırıb. O, “OpenAI” rəhbəri Sam Altman ilə telefonla danışaraq ölkəsinin ciddi narahatlığını çatdırıb. Hər ikisi Nyu-Yorkda BMT Baş Assambleyasında olsa da, üzbəüz görüşməyiblər. Altman üzr istəyib və şirkətin bu məsələdə kifayət qədər yaxşı işləmədiyini qəbul edib. Hökumət araşdırma aparacaq, hadisənin cinayət olub-olmadığını müəyyən edəcək. Hüquqi addımların da atılacağı deyilir.

    Agent daha 3 dövlət sisteminə də toxunmuş ola bilər. Söhbət Avstraliya Səhiyyə və Rifah İnstitutu, Yeni Cənubi Uels Cinayət Statistikası və Araşdırmalar Bürosu, eləcə də Viktoriya Səhiyyə Departamentindən gedir. “OpenAI” modelin bir neçə Avstraliya hökumət saytı və xidmətində işlədiyini təsdiqləyib. Digər sistemlərdə yalnız açıq məlumatlara baxılıb. “Services Australia” şəbəkəsinin daha geniş şəkildə sındırıldığına dair məlumat yoxdur.

    Bu, süni intellekt modelinin dövlət sistemini özü sındırdığı ilk məlum hadisə ola bilər. “OpenAI” iyulda başqa bir agentin açıq mənbəli süni intellekt alətlərinin toplandığı “Hugging Face” platformasına icazəsiz girdiyini də açıqlamışdı. Şirkətin son məlumatlarında Almaniya ilə bağlı, ölkə sərhədlərini aşan oxşar hadisə də qeyd olunub. Bundan başqa, agent məlumat axtarmaq üçün Kaliforniyada adı açıqlanmayan bir dairənin saytına girib.