Reddit-də süni zəka botlarının iştirakı ilə qanunsuz təcrübə keçirilib

     Reddit platforması Sürix Universitetindən olan bir qrup tədqiqatçını əbədi olaraq bloklayıb. Buna səbəb həmin tədqiqatçıların bir neçə ay ərzində gizli şəkildə süni zəka botlarından istifadə edərək istifadəçilərə psixoloji təsir göstərmələri olub. Alimlərin özlərinin “neyroşəbəkələrin inandırıcılığını öyrənmək” adlandırdıqları bu təcrübə qalmaqala səbəb olub və Reddit hazırda məhkəmə iddiası qaldırmaq imkanını nəzərdən keçirir. Tədqiqat çərçivəsində botlar özlərini psixoloq-məsləhətçi və zorakılıq qurbanı kimi təqdim ediblər. Onlar r/changemymind adlı Reddit icmasında 1700-dən çox şərh yazıblar və 10 000-dən çox karma toplayıblar. Onlar ifşa olunana qədər bu fəaliyyət davam edib.

     The Verge nəşrinin yazdığına görə, Reddit-in baş hüquqşünası Ben Lee bu təcrübəni təkcə qanunsuz deyil, həm də etikaya zidd hesab edib. Şəbəkəyə sızan məlumatlara görə, botlar GPT-4o, Claude 3.5 Sonnet və Llama 3.1-405B modellərindən istifadə ediblər. Onlar istifadəçilərin post tarixçələrini analiz edərək mümkün qədər inandırıcı arqumentlər seçməyə çalışıblar. “Bütün hallarda botlarımız şərhləri müəllifin son 100 paylaşımı və cavabı əsasında hazırlayırdı” - deyə sənəddə deyilir. Tədqiqatçılar bildiriblər ki, əgər hər hansı paylaşım etik baxımdan problemli sayılırdısa və ya onun süni zəka tərəfindən yazıldığı açıq şəkildə hiss olunurdusa, həmin paylaşımı fərdi şəkildə silirdilər. Yəni, təcrübənin izlərini gizlədirdilər.

     Üstəlik, neyroşəbəkələr üçün yazdıqları sorğularda guya Reddit istifadəçilərinin təcrübədə iştirak etməyə razılıq verdiklərini iddia ediblər, halbuki bu, həqiqətə uyğun deyildi. Tədqiqat zamanı - hər nə qədər qeyri-qanuni olsa da - müəyyən edilib ki, botlar insanlara nisbətən inandırma baxımından dəfələrlə daha effektivdir və qarşı tərəfin fikrinə asanlıqla təsir göstərə bilirlər. Tədqiqatın müəlliflərinin fikrincə, əgər süni zəka botları pis niyyətli şəxslərin əlinə keçərsə, seçkilərə müdaxilə etmək və ya ictimai rəyə təsir göstərmək üçün istifadə oluna bilər. Tədqiqatçılar onlayn platformalara süni zəka tərəfindən yaradılan məzmunun yoxlanması üçün etibarlı mexanizmlər hazırlamağı tövsiyə edirlər. Lakin taleyin istehzası ondadır ki, elə bu tədqiqatın özü də zərərli fəaliyyətin və manipulyasiyanın nümunəsinə çevrilib.

Mənbə: The Verge