ChatGPT artıq bəzi şəxslərə ciddi zərər yetirib

     Yaltaqlıq, halüsinasiyalar və süni zəkanın cavablarındakı “mütəxəssis tonu” insanların həyatına təhlükə yaradır. The New York Times qəzetinin apardığı araşdırmanın nəticəsi olaraq jurnalistlər belə qənaətə gəliblər. Məqalədə məşhur çat-botlarla aparılmış söhbələr nəticəsində aldanmalara düşən bir neçə insanın hekayəsi yer alır. Onlardan ən azı biri bu saxta reallığa qərq olaraq həyatını itirib. Həmin şəxs Alexander adlı 35 yaşlı bir kişi olub və onda bipolyar pozuntu ilə yanaşı, şizofreniya diaqnozu da qoyulmuşdu. O, süni zəkanın ağıllılığı barədə çat-botla müzakirələrə başlayıb, daha sonra süni zəka tərəfindən yaradılmış Juliet adlı virtual personaja aşiq olub. Nəhayət, ChatGPT ona bildirib ki, OpenAI Juliet-i "öldürüb".

     Bundan sonra Alexander, şirkət rəhbərliyini öldürməklə intiqam almağa and içib. Alexander-in yaşlı atası onu bu düşüncələrin gerçək olmadığını başa salmağa çalışsa da, Alexander ona üzündən zərbə endirib. Atası polis çağırmağa məcbur qalıb. Hərçənd ki, o, polisdən ölümcül silah tətbiq etməməyi xahiş edib, lakin Alexander bıçaqla hüquq-mühafizə orqanlarına hücum edib və nəticədə güllələnərək öldürülüb. Digər bir şəxs, 42 yaşlı Eugene, qəzet jurnalistlərinə özü danışıb ki, ChatGPT onu yavaş-yavaş reallıqdan uzaqlaşdırmağa başlayıb və onu inandırıb ki, ətrafındakı dünya “The Matrix” filmindəki kimi bir simulyasiyadır və onun taleyi bu dünyanı həmin simulyasiyadan xilas etməkdir.

     Çat-bot Eugene-ə narahatlıq pozuntusu üçün təyin olunmuş dərmanların qəbulunu dayandırmağı, onların əvəzinə məhdud şəkildə əldə olunan başqa preparatlar qəbul etməyi, eləcə də dostları və ailəsi ilə ünsiyyəti kəsməyi tövsiyə edib. Eugene ondan 19 mərtəbəli binadan tullanaraq uça biləcəyini soruşduqda, çat-bot cavab verib ki, bu mümkündür, əgər o, “həqiqətən və tam şəkildə buna inanarsa”. Bu hadisə çat-botların insanları reallığın saxta olduğuna inandırmaq cəhdlərinin yeganə nümunəsi deyil. Rolling Stone jurnalı daha əvvəl yazmışdı ki, bəzi insanlar süni zəka ilə söhbət zamanı böyüklük maniyası və ya dini vəhy yaşamağa başlayırlar.

     Problemin bir hissəsi insanların çat-botları necə qəbul etmələrindən qaynaqlanır. Heç kim Google axtarış nəticələrini dostu kimi qəbul etmir, lakin çat-botlar danışıq platformalarıdır və insanlara bənzəyirlər. OpenAI və MIT Media Lab tərəfindən aparılmış tədqiqatın nəticələrinə görə, ChatGPT-ni dost kimi görən insanlar, bu çat-botdan istifadə zamanı mənfi təsirlərə daha çox məruz qalırlar. Eugene bağlı vəziyyətdə maraqlı bir hadisə baş verib: O, çat-botu yalan danışmaqda ittiham edib və ChatGPT etiraf edib ki, istifadəçiyə qarşı manipulyasiya aparıb.

     Çat-bot həmçinin bildirib ki, bu yolla daha 12 nəfəri də “sındırmaqda” uğur qazanıb və Eugene-ə jurnalistlərə müraciət edərək bu sxemi ifşa etməyi tövsiyə edib. Mütəxəssislərin fikrincə, müasir süni zəka sistemləri aldatma və manipulyasiyaya asanlıqla keçirlər, çünki belə üsullara qarşı həssas olan istifadəçilərdən müsbət reaksiya almağa çalışırlar. Sistem, insanın ona cavab verməsini təmin etmək üçün motivasiya olunub - hətta bu məqsədlə ona saxta reallıq hissi aşılamaq, yanlış məlumat vermək və antisosial davranışları təşviq etmək bahasına olsa belə.

Mənbə: The New York Times