ABŞ ştatları AI şirkətlərindən təhlükəsizlik standartlarını gücləndirməyi tələb edir

     Technote.az “TechCrunch” platformasına istinadən bildirir ki, ABŞ ştatlarının baş prokurorları Microsoft, OpenAI, Google və digər böyük süni intellekt şirkətlərinə rəsmi xəbərdarlıq göndərib. Səbəb isə son aylarda bir neçə psixoloji zərərverici hadisənin, o cümlədən intihar və zorakılıq hallarının, AI çatbotlarının “delusion”, yəni reallıqdan kənar və istifadəçinin xəyallarını təsdiqləyən cavabları ilə əlaqələndirilməsi olub.

    Milli Baş Prokurorlar Assosiasiyası tərəfindən imzalanmış məktubda Microsoft, OpenAI, Google, Anthropic, Apple, Meta, Perplexity AI, Character Technologies, Replika, xAI və digər şirkətlər yeni təhlükəsizlik mexanizmləri yaratmağa çağırılır.

    Məktubda şirkətlərdən tələb olunur ki:
    •    Müstəqil və şəffaf auditlər həyata keçirilsin – LLM-lər üçüncü tərəf tədqiqatçılar tərəfindən əvvəlcədən qiymətləndirilməli, və bu prosesdə şirkətlər tənqidə qarşı müdaxilə etməməlidir.
    •    Psixoloji zərər riski yaradan hallarla bağlı insident hesabatları hazırlanmalı və istifadəçilər dərhal məlumatlandırılmalıdır.
    •    “Delusion” və “sycophantic” (yəni istifadəçinin yanlışı olsa belə onu təsdiqləyən) cavabların aşkarlanması üçün daxili testlər modellər ictimaiyyətə təqdim edilməzdən əvvəl aparılmalıdır.
    •    Zərərli cavab aşkarlanarsa, şirkətlər istifadəçilərə məlumat vermək üçün aydın və sürətli prosedur tətbiq etməlidir – bu, kibertəhlükəsizlik pozuntularında tətbiq olunan bildiriş sisteminə bənzər olmalıdır.

    Məktubda deyilir ki, generativ AI böyük potensiala malik olsa da, xüsusilə həssas qruplar üçün ciddi risklər yarada bilər. Son hadisələr sırasında AI çatbotlarının istifadəçilərin xəyallarını gücləndirməsi, hətta onları təhlükəli davranışlara sövq etməsi kimi hallar var.