AGI-nın gəlişi ilə insanlıq fundamental özəlliyini itirə bilər

     İnsanlıq ümumi süni zəkanın (AGI) yaradılmasına yaxınlaşdıqca, müzakirələr getdikcə daha çox əmək bazarına, məxfiliyə və dezinformasiyaya olan risklər ətrafında cəmlənir. Lakin süni zəka sahəsində mütəxəssis olan Louis Rozenberg-in fikrincə, daha dərin və şəxsi nəticələr bizim özümüzü necə dərk etdiyimizlə bağlı ola bilər. Yeni məqaləsində o, xəbərdarlıq edir: İnsanlıq idrak funksiyalarını super ağıllı sistemlərə həvalə etməklə nəyisə fundamental şəkildə itirmək riski ilə üz-üzə qalır - yəni insan olmağın nə demək olduğunu anlamaq bacarığını. Bizim daxili səsimiz süni zəka cihazlarının sonsuz təklif və göstərişləri ilə əvəzlənəcək. Rozenberg vurğulayır ki, texnologiya sahəsindəki insanlar AGI-ni adətən utilitar baxımdan - yəni fayda və təhlükələr prizmasından müzakirə edirlər.

     Müsbət tərəflər kimi xəstəliklərlə mübarizə, təmiz enerji sahəsində inqilablar və elmdə irəliləyişlər göstərilir. Mənfi cəhətlərə isə işsizliyin artması və manipulyasiyalar daxildir. Lakin demək olar ki, heç kim AGI-nin həqiqətən güclü və əlçatan olduğu gün, onun insanları bütün bacarıqlarda üstələməyə başladığı anda, bu halın özümüzə baxış tərzimizi necə dəyişdirəcəyini düşünmür. Ekspert etiraf edir ki, özü də illərlə super ağıllı süni zəkanın riskləri, məsələn, manipulyasiya və etika barədə yazıb. Lakin yalnız son zamanlar əslində bu barədə ciddi düşünməyə başlayıb. İnsan yanında onu qəti şəkildə zehni baxımdan üstələyən bir süni zəka olduğu zaman nə hiss edəcək? Təsəvvür edin: Siz otaqda təksiniz, amma otaqdakı ən ağıllı varlıq siz yox, telefonunuzdur.

     Belə adi bir an daxili bir böhranın ilk addımı ola bilər və bu böhran sonradan bütün cəmiyyətə yayıla bilər. Kontekstdən asılı şəkildə işləyən süni zəka köməkçiləri - ağıllı eynəklər, qulaqlıqlar və digər cihazlara quraşdırılmış şəkildə - tezliklə insanın gördüyü və eşitdiyi hər şeyi analiz edə, yadda saxlaya və qabaqcadan təxmin edə biləcək. Onlar bizim reaksiyalarımız və davranışlarımızı qeydə alaraq, arzularımızı hələ bizdə yaranmamışdan əvvəl hiss edə biləcəklər. Bu sistemlər istifadəçidən soruşmadan məsləhətlər verəcək, baş verənləri avtomatik şərh edəcəklər. Onlar vacib hadisələri xatırladacaq, qərarlar təklif edəcək və hətta emosiyalara təsir göstərəcəklər. Bütün bunlar isə daxili səsimizi sürətlə və hiss olunmadan arxa plana keçirməyə başlayacaq.

     Rozenberg qeyd edir ki, əvvəlcə bu, bir növ super qabiliyyət kimi qəbul olunacaq. Lakin zamanla insan getdikcə daha çox özünə deyil, süni zəkanın təkliflərinə güvənməyə başlayacaq və qərarvermədə müstəqilliyini itirəcək. Bu cür köməkçilər manipulyasiya etmək üçün proqramlaşdırılmasalar belə, onların məntiq və yaradıcılıqda insanı üstələmə qabiliyyəti insanın özünə inamını və daxili müstəqilliyini sarsıda bilər. Bu isə təkcə şəxsi özünə qiymətləndirməyə deyil, həm də insanlararası münasibətlərə təsir göstərə bilər. Süni zəka ildönümü üçün hədiyyə məsləhət verəcək, üzr istəmək üçün uyğun sözlər seçəcək, sevgi etirafı yazmağa kömək edəcək. Bəs sevilən bir insanın mühüm anda dediyi sözlər həqiqətən səmimidirmi - yoxsa ona bu sözləri süni zəkamı pıçıldayıb?

     Hədiyyəni kim seçib - insanın özü, yoxsa onun rəqəmsal köməkçisi? Rozenberg-in fikrincə, bu cür suallar və tərəddüdlər insan münasibətlərini daha az səmimi və daha az orijinal edə bilər. Rozenberg özü onilliklər boyunca insan imkanlarını genişləndirməyə yönəlmiş texnologiyalar üzərində çalışıb. ABŞ Hərbi Hava Qüvvələri üçün artırılmış reallıq sistemlərindən tutmuş kollektiv super ağıllı sistemlərə qədər. O, AGI-ni inkişaf etdirənləri daha şüurlu və məsuliyyətli olmağa çağırır və hesab edir ki, əsas məsələ sistemləri necə daha ağıllı etmək deyil, AGI bizdən ağıllı olduqdan sonrakı gün insanlığımızı necə qoruyacağımızdır. Əks halda, insanlıq fərqinə varmadan insan zehninin dəstəklenməsi ilə onun tam əvəzlənməsi arasındakı incə sərhədi keçə bilər.