İT sahənin müxtəlif mütəxəssisləri potensial təhlükələrdən yayınmaq üçün hələ bir neçə müddət bundan öncə süni zəka sistemlərinin inkişaflarının məhdudlaşdırılmasına çağırışlar etmişdilər. Onların bu mövzuda narahatlıqları ABŞ-ın Hərbi Hava Qüvvələrinin keçirtmiş olduğu təcrübə sayəsində təsdiqlənib. Bununla belə aparılmış təcrübə çərçivəsində baş vermiş hadisə heç gözlənilməz olub. Baş vermiş hadisə bir növ “Terminator” filminin ssenareisini xatırladır. Böyük Britaniyanın Kral Aviasiya Cəmiyyəti tərəfindən keçirilmiş “Gələcəyin hərbi hava və kosmik potensialı” adlı sammit çərçivəsində ABŞ Hərbi Hava Qüvvələrinin polkovniki Tucker Hamilton hərbi əməliyyatlarda süni zəkaya həddən artıq güvənməyin lazım olmadığını bildirib.

    Belə ki, bəzən bu cür sistemlər heç də uğurlu olmayan alqoritmlər vasitəsilə təlimatlandırıla bilərlər. Tucker Hamilton bildirib ki, bir neçə müddət bundan öncə SEAD aldı missiyanın virtual simulyasiyası reallaşdırılıb. Simulyasiya çərçivəsində süni zəkanın idarəsi altında olmuş pilotsuz uçuş aparatı düşmənin hava hücumundan müdafiə sistemlərini məhv etməli idi. Bu istiqamətdə pilotsuz uçuş aparatından düşmənin raket obyektlərini təyin və məhv etmək tələb edilib. Lakin bu, operator qismində çıxış edən insanın təsdiq əmrindən sonra baş verməli idi. Müəyyən müddət ərzində hər şey yolunda gedəndən sonra dron heç gözlənilmədən operatora hücum edib.

    Belə ki, operator drona prioritetli missiyanın yerinə yetirilməsinə mane olub. Halbu ki, dronun sahib olduğu süni zəka sistemi yalnız düşmən obyektlərinin məhv edilməsi üzrə təlimatlandırılmışdı. Tucker Hamilton bildirib ki, müəyyən anda sistem başa düşüb ki, düşmən obyektinin təyin edildiyi halda operator onu məhv etməyə icazə verməsə, sistem missiyanın uğurlu şəkildə yerinə yetirilməsi halında verilən potensial xallardan məhrum olacaq. Buna görə də sistem bu problemi aradan qaldırmaq üçün birbaşa operatora hücum edib.

    Təbii ki, bu testlər çərçivəsində real dronlardan istifadə ediməyib və nəticədə heç bir insan zərər çəkməyib. Buna baxmayaraq testlərin nəticələri heç də ürəkaçan olmayıb və nəticədə süni zəka sisteminə operatorun məhv edilməsi qadağan edilib. Lakin bu halda da nəticə heç gözlənilməz olub. Belə ki, operatoru məhv etmək imkanından məhrum olmuş sistem operatorun drona əmrlər göndərməsinə imkan vermiş şəbəkə qülləsini məhv edib. Bu cür testlərin nəticələri bir tərəfdən təəccübləndirsələr də digər tərəfdən qorxudurlar. Belə ki, süni zəka sistemi vəziyyətdən tez çıxış yolu taparaq insan nöqteyi nəzərdən heç də doğru olmayan qərarı qəbul edib.