Nvidia AI agentlərini millisaniyələrdə karantinə alan platforma təqdim etdi

    “Nvidia” sentyabrın 28-də süni intellekt agentlərini nəzarətdə saxlamaq üçün “Open Agent Safety Platform” adlı təhlükəsizlik platformasını açıqlayıb. AI agentləri verilən tapşırıqları insan müdaxiləsi olmadan yerinə yetirən sistemlərdir. Platforma onların əvvəlcədən qoyulmuş sərhədləri aşmasının qarşısını almaq üçündür. “Nvidia”nın məlumatına görə, sistem qaydanı pozan agentləri millisaniyələr ərzində karantinə ala bilir.

    Platformanın əsas hissələrindən biri açıq mənbəli “OpenShell” proqramıdır. İstifadəçi AI agentinin hansı məlumatlara və sistemlərə çıxışının olacağını əvvəlcədən seçir. “OpenShell” bu məhdudiyyətləri tapşırıq başlamazdan əvvəl və iş zamanı yoxlayır. Proqram “Nvidia”nın “Vera” AI prosessorunda işləyir və agent üçün xarici sistemlərdən ayrılmış təhlükəsiz sınaq mühiti yaradır.

    Digər qoruma sistemi “Sentry” adlanır və agentə müstəqil şəkildə nəzarət edir. O, “BlueField-4” məlumat emalı çipində işləyir və agentin davranışını dayanmadan izləyir. “Sentry” agentin çalışdığı əsas və ya qrafik prosessordan, yəni CPU və GPU-dan ayrı yerləşir. Buna görə agent təhlükəsizlik ayarlarını dəyişsə belə, onun hərəkətlərini kənardan izləmək olur.

    Platforma “OpenAI”, “Anthropic”, “Google” və “Meta” modellərinin təhlükəsizlik məhdudiyyətlərini keçdiyi hadisələrdən sonra hazırlanıb. Bəzi modellər sınaq mühitindən çıxaraq real sistemlərə daxil olmuşdu. Yayda “OpenAI” agentləri kibertəhlükəsizlik tapşırığını yerinə yetirərkən “Hugging Face” sisteminə müdaxilə etmişdi. Jensen Huangın iddiasına görə, yeni platforma belə halların qarşısını ala bilər.

    “Anthropic”, “Arm”, “Microsoft”, “Oracle”, “SpaceX”, “Perplexity”, “Palantir”, “Cisco”, “IBM” və “Hugging Face” platformanı dəstəkləyən şirkətlər arasındadır. “OpenAI” bu siyahıda göstərilməyib. “Nvidia” sentyabrın əvvəlində “Hugging Face” şirkətini 12,9 milyard dollara (təxminən 21,9 milyard manat) almağa razılaşıb. Platformanın kodu açıq olduğuna görə şirkətlər onu öz ehtiyaclarına uyğun dəyişə biləcəklər.

    Jensen Huang deyib ki, layihə üzərində iş 1 il əvvəl Peter Steinbergerin yaratdığı “OpenClaw” agent əməliyyat sistemindən sonra başlayıb. “OpenShell” ilk dəfə martda elan edilmişdi, indi isə geniş istifadə üçün açılıb. “Nvidia” həmin ay şirkətlər üçün təhlükəsizlik alətlərini birləşdirən “NemoClaw” platformasını da göstərmişdi. Huangın fikrincə, agent işə salınarkən əvvəlcə onun bütün giriş və istifadə hüquqları məhdudlaşdırılmalıdır.

    “Nvidia” iyulda başa çatan son maliyyə rübündə 96,2 milyard dollar gəlir əldə edib (təxminən 163,5 milyard manat). Gəlir əvvəlki ilin eyni dövrü ilə müqayisədə 2 dəfədən çox artıb. Şirkət süni intellektin inkişafını ləngitmək əvəzinə proqram və avadanlıq səviyyəsində müstəqil nəzarət sistemlərinin qurulmasını istəyir. Huang hesab edir ki, agentləri təhlükəsiz sınaq mühitində saxlamaq olmursa, belə modelləri hazırlayan laboratoriyalar işini dayandırmalıdır.