OpenAI istifadəçilərin ChatGPT-dəki təhlükəli mesajlarını polisə ötürəcək

     OpenAI elan edib ki, ChatGPT istifadəçilərinin mesajları təhdid və zorakılıq əlamətləri baxımından yoxlanılır. Risk təsdiqləndiyi halda şirkət məlumatları polisə ötürəcək. OpenAI ChatGPT-də yazışmaların işlənməsi ilə bağlı daxili qaydaları açıqlayıb. OpenAI-nin bloqunda bildirilib ki, ChatGPT-də yazışmalar özünə zərər və zorakılıq hallarına görə analiz olunur. 2023-cü ilin əvvəlindən etibarən modellər özünə zərər vurmaqla bağlı təlimatları bloklamaq və dialoqu dəstək xarakterli istiqamətə yönəltmək üçün öyrədilir. Əgər istifadəçi intihar niyyətindən yazırsa, assistent empatiya göstərməli və yardım əlaqələrini təqdim etməlidir. ABŞ-da bu, 988 qaynar xəttidir, Böyük Britaniyada - Samaritans təşkilatı, digər ölkələr üçün isə findahelpline.com portalıdır.

Yaşlılar və qeydiyyatsız istifadəçilər üçün daha sərt filtrləmə sistemi tətbiq olunur: daha geniş spektrdə təhlükəli mesajlar və təsvirlər bloklanır. Uzun dialoqlar zamanı isə ChatGPT fasilə verməyi təklif edir. Başqa insanlara yönələn təhdidlər xüsusi hazırlanmış komanda tərəfindən yoxlanılır. Əgər mütəxəssislər ciddi zorakılıq riskini təsdiqləyirlərsə, materiallar polisə ötürülür. Bununla yanaşı, şirkət vurğulayıb ki, özünə zərər halları məxfilik qorunsun deyə hüquq-mühafizə orqanlarına göndərilmir. OpenAI ayrıca xatırladıb ki, ChatGPT-nin özünə zərər təbliği, silah hazırlanması, insanlara və ya obyektlərə hücum, həmçinin servislərin təhlükəsizliyinə təhdid yaradan hər hansı fəaliyyət üçün istifadəsi qadağandır. Hazırda, şirkətin bildirdiyinə görə, yazışmaların polisə ötürülməsi halları qeydə alınmayıb.