Microsoft AI agentlərinə nəzarət edən Guardian Agents sistemini təqdim etdi

    “Microsoft” bazar ertəsi şirkətlərdə işlədilən süni intellekt agentlərini nəzarətdə saxlamaq üçün yeni təhlükəsizlik alətlərini açıqlayıb. Əsas yenilik “Guardian Agents” sistemidir. Sistem özbaşına işləyən agentləri şirkət daxilindən yarana biləcək təhlükə kimi izləyir. “Microsoft”un təhlükəsizlik rəhbəri Hayete Gallot deyib ki, hansı şirkətin hazırlamasından asılı olmayaraq, qabaqcıl modellərə tam etibar etmək olmaz. Çünki bu modellər zərərli olmasalar da, tapşırığı yerinə yetirərkən gözlənilməz davrana bilərlər.

    Süni intellekt agenti verilən məqsədə çatmaq üçün məlumat və rəqəmsal alətlərlə özü işləyən proqramdır. Belə sistemlərə geniş icazələr verildiyi üçün hər hansı səhv ciddi zərər yarada bilər. “Microsoft”un rəhbəri Satya Nadella vurğulayıb ki, agentlər həssas məlumatlara çıxış əldə edir və vacib qərarlar verə bilir. Buna görə onların nə edə biləcəyini müəyyənləşdirən nəzarət sistemi həm modeldən, həm də onu hazırlayan şirkətdən ayrı olmalıdır.

    “Project Perception” iyun ayında süni intellektlə işləyən kibertəhlükəsizlik sistemi kimi göstərilmişdi. Əvvəlcə kənardan gələn hücumlara qarşı hazırlanan sistemdə 3 agent qrupu işləyirdi. Qırmızı agentlər zəiflikləri axtarır, mavi agentlər tapılan təhlükələri araşdırırdı. Yaşıl agentlər problemləri aradan qaldırır və lazımi düzəlişləri edirdi.

    “Guardian Agents” həmin qorumanı şirkət daxilində işləyən agentlərə də tətbiq edir. Agentlər saniyələr ərzində qərar verdiyindən nəzarət fasiləsiz və insanların izləyə biləcəyindən daha sürətli aparılır. “Project Perception” və “Microsoft Agent 365” təhlükə siqnallarını, risk məlumatlarını və ümumi reyestri paylaşır. Beləliklə, İT və təhlükəsizlik qrupları bütün agentləri eyni paneldə izləyə bilir.

    Müdafiə sistemi 7 sahəni əhatə edir: kimliyin müəyyənləşdirilməsi, icazələr, məlumatlar, cihazlar, şəbəkə, bulud və agentin işlədiyi mühit. Sistem əvvəlcə agentin kimə aid olduğunu, hansı məqsədlə yaradıldığını və nə etdiyini müəyyən edir. Daha sonra onun məlumatlara və alətlərə çıxışını məhdudlaşdırır, işlətdiyi resursları qoruyur. Agentin davranışı dəyişdikcə təhlükəsizlik qaydaları da yenilənir.

    “Microsoft”un agentləri tanıma sistemi “Claude Code”, “OpenAI Codex” və “GitHub Copilot” da daxil olmaqla 35 əlavə yerli agent növünü əhatə edəcək. “Microsoft Defender” əməkdaşların iş mühitinə gətirdiyi 60-dək agent növünü aşkar edə bilir. Onların arasında “OpenClaw” da var. “Microsoft Entra Agent ID” şirkət daxilində işləyən və əvvəllər tanınmayan agentlər üçün yeni kimlik növləri alır. Bununla təhlükəsizlik komandası hər agentin kimə aid olduğunu görə bilir.

    “Dynamic Permissions” agentə yalnız konkret tapşırıq üçün lazım olan çıxış icazəsini verir. “Dynamic Agent Risk” təhlükəli davranışları axtarır. Risk artdıqda “Dynamic Conditional Access” əməliyyatı bloklaya, insandan təsdiq istəyə və ya agenti sistemdən ayıra bilər. “Microsoft” 100-dən çox şirkətin dəstəklədiyi “Nvidia Open Agent Safety Platform” təşəbbüsünün ilk üzvlərindəndir. Platforma agentləri qorunan mühitdə saxlayır. “Surface Laptop Ultra” cihazlarında oxşar nəzarət sistemi “Nvidia” çiplərinə qoşulub.