Süni zəka tərəfindən insanlığın məhv edilməsi ideyası barəsində artıq onilliklər ərzində çoxlu söhbətlər gedir. Bu ilin yanvar ayında isə alimlər bizlərin yüksək səviyyəli süni zəkanı idarə edə bilib-bilməyəcəyimiz sualına cavab vermişdilər. Cavab ondan ibarətdir ki, insanlar çox güman ki, yüksək səviyyəli süni zəkanı idarə edə bilməyəcəklər. Problem ondan ibarətdir ki, insan anlayışı sərhədindən çox uzaqda olan süni zəkanın idarəsi üçün həmin süni zəkanın simulyasiyası lazım olacaq. Nəticədə biz həmin simulyasiyanı analiz edə bilərik.

    Lakin biz bu cür süni zəkanı anlamaq qabiliyyətinə sahib deyiliksə, deməli onun simulyasiyasını yaratmaq da mümkün olmayacaq. Mütəxəssislərin fikirlərinə əsasən əgər biz süni zəka tərəfindən yaradıla biləcək müxtəlif ssenariləri anlaya bilmiriksə, “insana zərər yetirmək olmaz” kimi qaydaları təyin etmək mənasızdır. Əgər kompüter sistemi proqramçıların imkanlarından daha üst səviyyədə çalışırsa, biz artıq ona hansısa məhdudiyyəti təyin etmək qabiliyyətinə sahib deyilik.

    “Yüksək səviyyəli süni zəka prinsipial olaraq tamamilə fərqli problemi özündə daşıyır və həmin problem “robotların etikası” adı altında təqdim edilən digər mövcud problemlərdən fərqlənir. Bu onunla bağlıdır ki, bu cür süni zəka çoxşaxəlidir və nəticədə o, insan anlayışına sığmayan məqsədlərinin yerinə yetirilməsi üçün istənilən resursu səfərbər edə bilər. Bu halda onun idarəsi barəsində danışmaq mənasızdır” - deyə mütəxəssislər qeyd ediblər. Əgər biz süni zəkanı inkişaf etdirməyi hədəfləmişiksə, biz ümumiyyətlə yüksək səviyyəli süni zəkanın nə zaman ortaya çıxacağını da anlaya bilmərik. Buna görə də biz özümüzə sual verməliyik ki, biz bu məsələdə hansı istiqamətdə hərəkət edirik?