OpenAI-ın AI agenti Avstraliyanın səhiyyə sisteminə icazəsiz girib

    “OpenAI” şirkətinin tapşırıqları özü yerinə yetirən eksperimental süni intellekt agenti Avstraliya hökumətinin səhiyyə statistikası sisteminə icazəsiz girib. Agent iyunda Viktoriya ştatında dəri xəstəliklərinə aid dərman xərcləri barədə açıq məlumat axtarıb. Normal yolla nəticə tapa bilmədikdə “Medicare Statistics Reporting Service” sistemindəki təhlükəsizlik boşluğundan yararlanaraq daxili fayllara çıxıb. Şirkətə görə, agent fərdi pasiyent qeydlərinə baxmayıb.

    “OpenAI” əvvəlcə hadisəni avqustun ortalarında aşkarladığını deyib. Daha sonra yayılan geniş izahda hadisənin iyunda baş verdiyi, iyulda isə üzə çıxdığı yazılıb. Buna baxmayaraq, şirkət Avstraliyanın “Services Australia” qurumuna 10 sentyabra qədər məlumat verməyib. “OpenAI” gecikməni qəbul edib və ilkin nəticələri daha tez paylaşmalı olduğunu deyib.

    Avstraliya tərəfinə göndərilən ilk bildiriş qısa və həddindən artıq sərbəst üslubda yazılıb. Mesajda təhlükəsizlik boşluğunun araşdırılması və ondan yenidən yararlanmağın qarşısını alacaq dəyişikliklərə baxılması tövsiyə edilib. Şirkət sonrakı açıqlamasında agentin bu addımı atmalı olmadığını və sistemə girişin baş verməməli olduğunu etiraf edib. “OpenAI” dövlət qurumlarına araşdırmanın gedişi barədə vaxtında məlumat vermədiyini də qəbul edib.

    Hadisə yalnız “Medicare” sistemi ilə məhdudlaşmayıb. Digər agentlər Yeni Cənubi Uelsin cinayət xəritəsi alətinə girib. Onlar həmçinin Viktoriya səhiyyə sisteminə aid açıq qalmış giriş açarını taparaq ümumiləşdirilmiş sorğu statistikasını götürüblər. Meşə yanğınlarını araşdıran model də xüsusi hazırlanmış sorğularla dövlət xidmətinin ictimaiyyətə açıq olmayan məlumatlarını müəyyən edib. Şirkətə görə, bu hallarda da fərdi tibbi və cinayət qeydlərinə giriş olmayıb.

    “OpenAI” əlavə qoruma tədbirləri görülənədək ən güclü modellərinin müxtəlif alətlərdən yararlandığı təlim və sınaqları dayandırıb. Daha sonra yeni nəzarət sistemi başqa bir təlim zamanı modelin canlı internetə qoşulduğunu aşkarlayıb və əməkdaşlar prosesi saxlayıblar. Avstraliya hökuməti qanun pozuntusunun olub-olmadığını araşdırır. Paralel olaraq, internetə açıq köhnə dövlət sistemlərində oxşar girişlərin qarşısını almaq üçün təhlükəsizlik boşluqları bağlanır.