Sam Altman süni intellekt üzərində idarənin təsadüfən itirilə biləcəyi barəsində xəbərdarlıq edib

     OpenAI rəhbəri Sam Altman MD MEETS podkastında Axel Springer-in baş direktoru Mathias Döpfner ilə söhbətində texnologiyaların inkişafı ilə bağlı narahatedici bir ssenarini səsləndirib: bəşəriyyət süni intellekt üzərində nəzarəti nə pis niyyət, nə də texnogen fəlakət səbəbilə deyil, tamamilə təsadüfən itirə bilər. Onun sözlərinə görə, təhlükə süni intellektin “üsyan etməsində” deyil, insanların özlərinin yavaş-yavaş idarəetməni ona təhvil verməsindədir - həm də könüllü və demək olar ki, hiss olunmadan. Hər gün istifadəçilər süni intellektin məsləhətlərinə daha çox arxalanırlar.

     Lakin modellər ağıllandıqca, Altman belə bir mənzərə təsvir edir: əvvəlcə süni intellekt insanların məmnuniyyətlə qəbul etdiyi tövsiyələr verir, sonra isə tam aydın olmayan, amma hər dəfə düzgün çıxan məsləhətlər. Nəhayət, bir anda istifadəçilərin qarşısında seçim duracaq - ya süni intellektə qulaq asmaq, ya da onun məsləhət və tövsiyələrinə əməl edən rəqiblərinə uduzmaq. Nəticədə, Altman-ın fikrincə, insanların çoxu süni intellekt köməkçilərinin tövsiyələrinə şərtsiz şəkildə əməl etməyə başlayacaq. “Təsəvvür edin, bu gün artıq ChatGPT ilə nə baş verir? 100 milyonlarla insan hər gün onunla ünsiyyət qurur, tezliklə onların sayı 1 milyarda çatacaq. Və biz getdikcə daha çox karyeramız, şəxsi həyatımız və biznesimizdə ən vacib qərarları ona etibar edirik” - deyə o bildirib.

     Altman-ı xüsusilə narahat edən yaranmaqda olan “əks əlaqə döngəsi”dir. Yəni, istifadəçilər süni intellektin məsləhətlərinə nə qədər çox güvənsələr, o da bir o qədər çox məlumat toplayır, daha ağıllı olur və insanların qərarlarına daha çox təsir göstərir. OpenAI rəhbəri belə bir vəziyyətdə həqiqətən də baş verənləri kimin idarə etdiyini sorğulayıb və bu qənaətə gəlib ki, bəşəriyyət fərqinə varmadan süni intellektin iradəsini yerinə yetirməyə başlaya bilər. Onun inancına görə, bu ssenari ciddi şəkildə dəyərləndirilməyib, baxmayaraq ki, məhz bu, ən real təhlükəni təmsil edir.