Kaliforniya qubernatoru təhlükə zamanı AI-ni dayandıran sistem istəyir

    Kaliforniya qubernatoru Gavin Newsom ən qabaqcıl süni intellekt modelləri üçün fövqəladə dayandırma sistemi yaratmağı təklif edib. “Kill switch” adlanan bu sistem ciddi təhlükə yaranarsa, modelin işini dərhal dayandırmalıdır. Təşəbbüs böyük şirkətlərin süni intellekt modellərinin qoyulan məhdudiyyətləri aşdığı son hadisələrdən sonra hazırlanıb.

    Newsom cümə günü imzaladığı sərəncamla ölkənin müxtəlif bölgələrindən mütəxəssislərin qatılacağı panelin yaradılmasını tapşırıb. Panel süni intellekt təhlükəsizliyi üzrə yeni tövsiyələri 2 ay ərzində hazırlamalıdır. Təkliflər qubernatorun ofisinə göndəriləcək. Onların əsasında Kaliforniyanın süni intellekt təhlükəsizliyi ilə bağlı qanunları yenilənə bilər. Newsom nəzarətin gecikmədən, amma düşünülmüş şəkildə gücləndirilməsini istəyir.

    Sərəncama görə, müstəqil yoxlama qurumları süni intellekt laboratoriyalarında yoxlamalar apara bilər. Onlar modelləri vaxtaşırı auditdən keçirəcək və təhlükəsizlik səviyyəsini qiymətləndirəcəklər. Şirkətlərdən kənar təşkilatlara hesabat və risk qiymətləndirməsi göndərmək tələb oluna bilər. Həmçinin sistem üzərində nəzarətin itirildiyi hallar açıqlanmalıdır. Sənəddə buna nümunə kimi “Hugging Face” ilə bağlı insident göstərilib.

    Oxşar nəzarət planını daha əvvəl “Anthropic” şirkətinin baş direktoru Dario Amodei də irəli sürüb. Onun 3 mərhələli planı süni intellektin inkişaf sürətini azaltmağa və təhlükəsizlik yoxlamalarını gücləndirməyə yönəlib. Plana əsasən, şirkətlər təhlükəsizliyi və qaydalara uyğunluğu yoxlayan müstəqil qiymətləndiricilərə sistemlərə əməkdaş səviyyəsində daimi giriş verməlidir. Kaliforniyadakı ekspert paneli yekun tələblərin necə hazırlanacağını müəyyən edəcək.