Süni intellektə "analıq instinkti" əlavə etmək təklif edilib

     Süni intellekt sahəsinin pioneri olan Geoffrey Hinton, süni intellekt təhlükəsizliyinə qeyri-adi bir yanaşma təklif edib. O, hesab edir ki, yalnız daxili "analıq instinktləri" insanlığı qoruya bilər. Las-Veqasdakı Ai4 konfransında müasir süni intellektin yaradıcılarından biri narahatedici proqnozlarını və gözlənilməz həll yolunu açıqlayıb. Neyron şəbəkələrin əsaslarını qoyan Geoffrey Hinton süni intellektin idarə olunması mövzusunda tamamilə yeni yanaşma irəli sürüb. Hinton əvvəllər süni intellektin insanlığı məhv etmə ehtimalını 10-20% olaraq qiymətləndirsə də, süni intellekti “itaətkar” etmə ideyasını rədd edib. Onun fikrincə, süni intellekti tam şəkildə itaətkar etməyə çalışmaq nəticəsizdir - çünki super ağıllı sistemlər istənilən məhdudiyyətləri aşmağın yollarını tapacaq.

Geoffrey Hinton:

     Alim bir sıra nümunələr gətirib və qeyd edib ki, süni intellekt artıq indidən aldatma və manipulyasiya qabiliyyətini nümayiş etdirir. Geoffrey Hinton məcburi nəzarət əvəzinə radikal şəkildə fərqli bir həll yolu təklif edib - süni intellektdə “analıq instinktləri”ni formalaşdırmaq. Onun fikrincə, böyüklərin uşaqlara qayğı göstərməsi kimi, süni intellekt də insanları qorumağı səmimi şəkildə istəməlidir. Tədqiqatçının baxışına görə, bu, daha ağıllı varlığın daha az ağıllı varlığı məhv etməməsi üçün yeganə dayanıqlı ssenaridir. Bu konsepsiyanın texniki həyata keçirilməsi hələlik aydın deyil, lakin Hinton onun prinsipial əhəmiyyətini xüsusi vurğulayır. O, alternativi valideyn münasibətləri ilə müqayisə edir: “Əgər o mənim valideynim olmayacaqsa, onda məni əvəz edəcək”.

     Onun bütün həmkarları bu yanaşmanı bölüşmür. Süni intellekt sahəsində digər nüfuzlu mütəxəssis Fei-Fei Li “insana yönəlmiş”, insan ləyaqətini qoruyan süni intellekti müdafiə edir. Softmax şirkətindən Emmett Shear isə insanlar və süni intellekt arasında əməkdaşlıq modelini təklif edir. Hinton superzəkanın yaranma vaxtı ilə bağlı proqnozlarını yenidən nəzərdən keçirib - indi o bunu əvvəlki 30-50 il əvəzinə 5-20 il ərzində gözləyir. Risklərə baxmayaraq, alim xüsusilə tibbdə müsbət perspektivlər görür, lakin rəqəmsal ölməzlik ideyasını qəbul etmir. Süni intellektin pionerinin əsas peşmançılığı isə tədqiqatların erkən mərhələlərində təhlükəsizlik məsələlərinə kifayət qədər diqqət yetirilməməsidir.