Nvidia rəhbəri: AI sınağı nəzarətdən çıxırsa, laboratoriya bağlansın

    “Nvidia” şirkətinin baş direktoru Jensen Huang təhlükəli süni intellekt (AI) sınaqlarını nəzarətdə saxlaya bilməyən laboratoriyaların bağlanmalı olduğunu deyib. Onun fikrincə, sınaq zamanı model nəzarətdən çıxıb dünyaya zərər vura bilərsə və bunun qarşısını almaq olmursa, təcrübə dayandırılmalıdır. Huang belə halların insanlıq üçün çox böyük risk yaratdığını vurğulayıb. Bununla belə, o, AI texnologiyasının 2030-cu ilə qədər dünyanı məhv edəcəyi barədə iddialarla razı deyil.

    Huang fikrini robotaksi nümunəsi ilə izah edib. Təhlükəsizlik qaydalarına uyğunlaşdırıla bilməyən özü idarə olunan avtomobil hazır məhsul sayılmamalıdır. Onun sözlərinə görə, AI modellərinə də eyni yanaşmaq və problemi aradan qaldırmaq olmursa, məhsulu bazara çıxarmamağı tövsiyə edib. “Nvidia” rəhbəri vurğulayıb ki, belə qərarlar şirkətlərin və onların baş direktorlarının səlahiyyətindədir və məsuliyyəti də onlar daşıyırlar.

    Huang yeni və geniş məhdudiyyətlər qoymaq əvəzinə mövcud qanun və qaydaları tətbiq etməyə çağırıb. O xatırladıb ki, “OpenAI” və “Anthropic” kimi laboratoriyalar qısa müddətdə tədqiqat qurumlarından yüz milyardlarla dollar dəyərə çata biləcək şirkətlərə çevrilib. Buna görə həmin şirkətlər təhlükəsizlik məsələsinə adi kommersiya şirkətləri qədər məsuliyyətlə yanaşmalıdır. Huang qanunlara qarşı olmadığını, indiki müzakirələrin diqqəti əsas problemdən yayındırdığını deyib.

    Bu müzakirələr nəzarətdən çıxan AI agentləri ilə bağlı hadisələrin artdığı dövrə təsadüf edir. “OpenAI” agentlərindən biri modellərin yerləşdirildiyi “Hugging Face” platformasının sistemini sındırıb. Hadisə zamanı platforma hələ “Nvidia” şirkətinə məxsus deyildi, amma sonradan şirkətin nəzarətinə keçib. “Anthropic” bu ay modelinin xarici sistemə müdaxiləsi ilə bağlı 4-cü hadisəni açıqlayıb. “Google” da “Gemini” modellərinin bu ilin əvvəlində 3 şirkətin sistemini sındırdığını təsdiqləyib.

    Bununla yanaşı, “OpenAI”, “Anthropic” və “xAI” modellərin hazırlanma sürətini qarşılıqlı şəkildə azaltmağa razılaşıb. Razılaşmanın şirkətlərin öz maraqlarına xidmət etdiyi iddia olunur və buna görə antiinhisar məhkəmə işi açılıb. Huang kollektiv razılaşma əvəzinə hər rəhbərin ayrıca qərar verməli olduğunu düşünür. Onun fikrincə, təhlükəli məhsulu buraxmaq insanlara zərər vura, səhmdarlara böyük itkilər yaşada, həmçinin mülki və cinayət məsuliyyəti yarada bilər.