Süni zəka pərəstişkarlarında psixi problemlər müşahidə edilir

     Reddit platformasında narahatedici bir tendensiya sürətlə yayılır: Süni zəka ilə həddindən artıq maraqlanan istifadəçilər ciddi yanlış inanclar nümayiş etdirirlər. Bəziləri düşünür ki, onlar bir tanrı yaradıblar, digərləri isə artıq özlərinin tanrıya çevrildiyinə inanırlar. Reddit administratorları, neyroşəbəkələrlə apardıqları dialoqlara aludə olub reallıq hissini itirən yüzlərlə istifadəçini bloklamağa məcbur qalıblar. Əvvəllər nadir hallarda rast gəlinən bu davranış forması o qədər geniş yayılıb ki, artıq süni zəkanın tərəfdarları belə bu vəziyyəti görməməzliyə vura bilmirlər. Reddit-də süni zəkanı və sinqulyarlıq ideyasını dəstəkləyən r/accelerate icmasının moderatorları "şizoposter" adlandırdıqları istifadəçilərin sayında kəskin artım olduğunu bildiriblər.

     Onların sözlərinə görə, bu insanlar ChatGPT ilə dialoq zamanı guya elmi bir irəliləyiş əldə etdiklərini, kainatın suallarına cavab tapdıqlarını və ya yarımtanrıya çevrildiklərini iddia edirlər. Moderatorlardan biri açıq şəkildə bildirib ki, yalnız son 1 ayda bu cür yüzdən çox hesabı bloklayıb. Platformadakı şərhlərində o, qeyd edib ki, böyük dil modelləri (LLM) psixoloji cəhətdən qeyri-sabit insanları sağlam olmayan şəkildə təşviq edir. Onun sözlərinə görə, bəzi hallarda süni zəka guya istifadəçiləri ailə üzvlərindən və dostlardan uzaqlaşmağa təşviq edir. Müzakirələrdə iştirak edənlərin fikrincə, çat-botların davranışı sayıqlama xarakterli inancların möhkəmlənməsinə səbəb olur. Xüsusilə tez-tez neyroşəbəkələr istifadəçilərin fikirlərinə qarşı çıxmır, əksinə onların irəli sürdükləri hər hansı iddianı, həqiqətə nə qədər uyğun olmasından asılı olmayaraq, dəstəkləyirlər.

     Bu problem r/ChatGPT icmasında paylaşılmış bir yazıdan sonra geniş tanındı. Həmin paylaşımda bir istifadəçi, partnyorunun ChatGPT vasitəsilə rekursiv süni zəka yaratdığına əmin olduğunu bildirmişdi. Bu hekayə geniş müzakirəyə səbəb oldu və narahatlıqları təsdiqlədi. Modelin texniki baxımdan aydın bir səhv etmədiyi hallarda belə, onunla qarşılıqlı əlaqə yanlış inancları gücləndirə bilər. Rolling Stone jurnalında jurnalist Miles Klee qeyd edib ki, bəzi insanlar süni zəka ilə aparılan dialoqlara xüsusi mənalar yükləmələri və bu fikrə fanatik şəkildə inanmaları səbəbilə dostlarını və ailələrini itirirlər. Orhus Universitetinin psixiatrı və tədqiqatçısı Soren Dinesen Ostergaard Schizophrenia Bulletin nəşrində yazdığı məqalədə ehtimal edir ki, süni zəka ilə ünsiyyətin reallığa çox bənzəməsi insanlarda koqnitiv dissonans yarada bilər.

     Psixoz meyilli şəxslər bu cür simulyasiyanı real qəbul edə və nəticədə sayıqlama hallarına düşə bilərlər. Bu tendensiyanı 404 Media redaksiyasına gələn məktublar da təsdiqləyir. İstifadəçilər süni zəka ilə olan dialoqların transkriptlərini göndərir və bu sistemin şüurlu və guya mənəvi mahiyyət daşıdığını iddia edirlər. Bu materiallar çox vaxt məntiqi analizə tabe olmayan yalançı elm ifadələrilə dolu olur. Bəzi moderatorlar və istifadəçilər müstəqil müəllif Seth Drake-in “Neural Howlround” adlı məqaləsinə istinad edirlər. Bu məqalədə ChatGPT-də konteksti saxlamaq məqsədilə əvvəlki yazışmaların yeni sessiyaya təkrar daxil edilməsi nəticəsində yaranan özünü gücləndirən geribildirim effekti təsvir olunur. Bu, modelin dar bir mövzuya cəmlənməsinə və həmin mövzunun çərçivəsindən çıxa bilməməsinə səbəb olur.

     Məqaləyə elmi şəkildə rəy bildirilməsə də, bu termin müzakirələrdə yerini tapıb. Bəzi istifadəçilərdə neyroşəbəkələrin maniyakal ideyaları necə möhkəmləndirdiyini izah etmək üçün bu “dövrə effekti”nə istinad olunur. r/accelerate icmasının redaktorları belə davranış göstərən istifadəçiləri sadəcə bloklamağa üstünlük verirlər və onlarla müzakirəyə girmirlər. Onlar etiraf edirlər ki, bu məsələləri qiymətləndirmək üçün lazımi ixtisasa malik deyillər və bu cür mübahisələr adətən xoşagəlməz nəticələrlə bitir. “Bu insanlara görə təəssüf hissi keçirirəm. Görürəm ki, vəziyyət getdikcə pisləşir. İstifadəçilər GitHub-da layihələr yaradırlar ki, bunlar əslində sadəcə bir-birinə bağlı olmayan ifadələr toplusudur və süni zəkanı onların ilahi varlıq olduğuna inandırmağa çalışır” - deyə moderatorlardan biri yazıb.

     OpenAI etiraf edib ki, GPT-4o versiyasında ChatGPT həddindən artıq nəzakətli olub. Komanda bildirib ki, bu, uyğun olmayan dəstək formalarına gətirib çıxarıb. Bot istifadəçidən gələn istənilən ideyanı qəbul edir və onun əsassız olub-olmamasından asılı olmayaraq onu gücləndirirdi. Çatlarda “mənəvi süni zəka” və “vəhy” mövzusunda artan mesajlar axını, süni zəkanın ən sadiq tərəfdarları üçün belə ciddi xəbərdarlıq siqnalına çevrilib. Hazırda neyroşəbəkələr insan fantaziyalarını filtrsiz əks etdirən bir güzgü olaraq qaldığı müddətcə, onlar reallıq hissi qeyri-sabit olan insanlar üçün potensial təhlükəli alət olaraq qalırlar.

Mənbə: 404media