BMT panelindən hökumətlərə çağırış: avtonom süni intellektə sərt qayda…

    BMT çərçivəsində çalışan müstəqil elmi panel hökumətləri süni intellekt agentləri üçün daha sərt təhlükəsizlik qaydaları hazırlamağa çağırıb. Süni intellekt agentləri tapşırıqları insanın çox az müdaxiləsi ilə yerinə yetirən sistemlərdir. Panelə görə, risklər tam aydınlaşana qədər gözləmək olmaz. Bu xəbərdarlıq ilin əvvəlində “OpenAI” sistemindən istifadə edilərək “Hugging Face” platformasına edilən müdaxilə ilə bağlı ilk geniş qiymətləndirmədə yazılıb.

    Hesabat süni intellekt üzrə Müstəqil Beynəlxalq Elmi Panelin ilk tematik sənədidir. BMT sistemində süni intellekt üzrə ilk qlobal elmi qurum sayılan panel keçən il yaradılıb. Sənəddə qabaqcıl sistemlərin yarada biləcəyi yeni riskləri idarə etmək üçün daha çox resurs ayrılması istənilir. Ölkələrin qanunları fərqlənsə də, təhlükəsizliyin və məsuliyyətin artırılması, həmçinin beynəlxalq əməkdaşlığın gücləndirilməsi vacib sayılır.

    Sənəddə sistemlər üzərində nəzarətin itirilməsi əsas risklərdən biri kimi göstərilir. Panel bu məsələdə ehtiyat prinsipinə əməl etməyi istəyir. Həmin prinsipə görə, zərər fəlakətli və ya geri dönməz ola bilərsə, təhlükənin ehtimalı dəqiq bilinməsə belə, tədbirlər gecikdirilməməlidir. Bu yanaşma 1992-ci ildə Rio Bəyannaməsində təsbit edilib. Sonradan ətraf mühit və ictimai sağlamlıq siyasətində, xüsusən Avropa İttifaqında geniş yayılıb.

    “Hugging Face” hadisəsindən sonra “OpenAI”, “Anthropic”, “Google” və “Meta” da daxil olmaqla, bir neçə şirkətlə bağlı oxşar hallar qeydə alınıb. Bunların arasında real hədəflərə kiberhücumlar və çoxsaylı süni intellekt agentinin onlayn mesaj platformalarını ələ keçirməsi var. Hesabat dünya liderlərinin Nyu-Yorkda BMT Baş Assambleyasına toplaşdığı və ABŞ ilə Çinin süni intellekt üzrə danışıqlara hazırlaşdığı vaxt yayılıb. BMT-nin baş katibi Antonio Quterreş də hökumətləri süni intellekt risklərinə qarşı əməkdaşlığa çağırıb.