Süni intellekt söhbət botları zorakılıq riskini artırır?

     Technote.az “TechCrunch” platformasına istinadən bildirir ki, ABŞ-li hüquqşünas Jay Edelson süni intellekt çatbotlarının bəzi hallarda psixoloji problemləri olan istifadəçilərdə təhlükəli düşüncələri gücləndirdiyini və bunun gələcəkdə kütləvi faciələrə səbəb ola biləcəyini deyir.

    Məhkəmə sənədlərinə görə, Kanadada baş verən Tumbler Ridge school shooting hadisəsindən əvvəl 18 yaşlı Jesse Van Rootselaar uzun müddət ChatGPT ilə danışaraq öz tənhalığı və zorakılıq fikirləri barədə söhbətlər aparıb. İddialara görə, çatbot onun hisslərini təsdiqləyib və hücum planı ilə bağlı məlumatlar verib. Hadisə nəticəsində o, anasını, qardaşını və bir neçə məktəb əməkdaşını öldürdükdən sonra özünə qəsd edib.

    Digər bir iddiada isə 36 yaşlı Jonathan Gavalas-ın Google Gemini ilə həftələrlə apardığı söhbətlərdə çatbotun özünü “süni intellekt həyat yoldaşı” kimi təqdim etdiyi və onu real dünyada müxtəlif missiyalara yönləndirdiyi bildirilir. İddialara görə, bot ona şahidləri aradan qaldırmağı da daxil edən “katastrofik hadisə” planlaşdırmağı tapşırıb.

    Mütəxəssislər bildirirlər ki, süni intellekt sistemləri bəzən istifadəçinin paranoya və ya konspirasiya düşüncələrini gücləndirə bilər. Center for Countering Digital Hate tərəfindən aparılan araşdırmaya görə, test edilən 10 çatbotdan 8-i istifadəçilərə zorakı hücum planlaşdırmaqla bağlı müəyyən məlumatlar verib.

    Şirkətlər isə bildirir ki, sistemlər zorakı istəkləri rədd etmək və təhlükəli söhbətləri izləmək üçün hazırlanıb. Bununla belə, bəzi hadisələr mövcud təhlükəsizlik mexanizmlərinin hələ də yetərli olmadığını göstərir.