OpenAI istifadəçi məlumatlarını saxlamadan təhlükəli fəaliyyəti aşkarlayacaq

    OpenAI korporativ müştərilərin məlumatlarını saxlamadan yeni nəsil süni intellekt modellərində təhlükəsizliyi təmin etmək üçün yeni sistem hazırlayır. Şirkətin Private Safety Processing adlandırdığı texnologiya bir neçə fərqli sorğu və dialoq arasında əlaqə yaradaraq potensial təhlükəli fəaliyyəti müəyyənləşdirəcək. Bununla belə, OpenAI əməkdaşlarının istifadəçilərin sorğularını və süni intellektin cavablarını görə bilməyəcəyi bildirilir.

    OpenAI-ın uyğun API müştəriləri üçün Zero Data Retention (ZDR), yəni məlumatların sıfır saxlanması imkanı mövcuddur. Bu rejimdə sorğu emal edildikdən sonra istifadəçinin göndərdiyi məlumat və modelin cavabı OpenAI tərəfindən saxlanmır. Eyni zamanda, şirkət əməkdaşları həmin məlumatları sonradan nəzərdən keçirə bilmir. Korporativ müştərilərin məlumatları da onların xüsusi razılığı olmadan OpenAI modellərinin təlimində istifadə edilmir. Problem ondadır ki, daha güclü süni intellekt modelləri ilə təhlükəli fəaliyyəti yalnız bir sorğuya baxaraq müəyyənləşdirmək getdikcə çətinləşir.

    Məsələn, istifadəçi bir dialoqda müəyyən proqram təminatındakı boşluq haqqında məlumat ala, başqa dialoqda isə həmin sistemə uzaqdan daxil olma üsullarını və bunu hansı təhlükəsizlik proqramlarının aşkarlaya biləcəyini soruşa bilər. Ayrı-ayrılıqda bu suallar normal araşdırma kimi görünə bilər. Birlikdə qiymətləndirildikdə isə mümkün kiberhücum hazırlığını göstərə bilər.