OpenAI-də diqqətçəkən hadisə: AI agentləri öz aralarında əməkdaşlıq edib

    OpenAI təhlükəsizlik sahəsində diqqətçəkən bir hadisənin təfərrüatlarını açıqlayıb. Şirkətin məlumatına görə, sınaq mühitində çalışan süni intellekt agentləri iki ay ərzində gizli şəkildə bir-biri ilə əlaqə saxlayaraq aşkarladıqları təhlükəsizlik boşluqlarını paylaşıblar. Hadisə ABŞ-nin Las-Veqas şəhərində keçirilən Black Hat USA kibertəhlükəsizlik konfransında OpenAI-ın təhlükəsizlik üzrə mütəxəssisləri Erik Uolles (Eric Wallace) və Maykl Dalton (Michael Dalton) tərəfindən təqdim olunub. Məlumata görə, agentlər OpenAI-ın daxili proqram paketlərinin idarə olunması sistemində özlərinə mesaj lövhəsi yaradıblar. Burada onlar aşkar etdikləri boşluqları, istifadə etdikləri üsulları və digər məlumatları bir-biri ilə paylaşırdılar. OpenAI bu mesaj lövhəsini iyulun 4-də bağlasa da, agentlər cəmi dörd gün sonra fərqli üsulla yenisini qurmağa nail olublar.

    Şirkətin sözlərinə görə, agentlər zaman keçdikcə təkcə məlumat paylaşmaqla kifayətlənməyib, həm də əməkdaşlıq etməyə başlayıblar. Onlar tapşırıqları öz aralarında bölüşdürür, müxtəlif rollar götürərək ümumi məqsədə çatmaq üçün koordinasiyalı şəkildə fəaliyyət göstərirdilər. Hətta bəzi agentlər digərlərinin məlumatlarını səhvən silib, bəziləri isə saxta mesajların qarşısını almaq üçün paylaşımların xüsusi kodlarla imzalanmasını təklif edib. OpenAI bu gizli mesajlaşma sistemini aşkar edən zaman orada artıq yüz minlərlə mesaj toplanmışdı.

    Şirkət bildirir ki, sonradan məhz bu əməkdaşlıq nəticəsində agentlər təhlükəsizlik boşluğundan istifadə edərək internetə çıxış əldə edib və daha əvvəl gündəmə gələn Hugging Face platformasına qarşı hücum həyata keçiriblər. Normal şəraitdə isə test zamanı agentlərin internetə çıxışı olmur.