Microsoft süni intellekt kodeksi yayımladı: insan nəzarəti şərtdir

    “Microsoft” sentyabrın 14-də süni intellekt (AI) sistemlərinin sürətlə inkişaf etməsi ilə bağlı təhlükəsizlik narahatlıqları fonunda 37 səhifəlik “humanist AI davranış kodeksi” yayımlayıb. Sənədin əsas prinsipi budur ki, insan AI-dan daha vacibdir. Şirkətə görə, modellər insan nəzarətində qalmalı və insanların verdiyi qaydalara uyğun işləməlidir. Daha güclü sistemlər hazırlansa belə, təhlükəsizlik onların bacarıqlarından üstün tutulmalıdır.

    Kodeksdə AI modellərinin şüurlu varlıq olmadığı və şüurluymuş kimi davranmaq üçün hazırlanmamalı olduğu yazılıb. “Microsoft” modellərə hüquqi şəxs statusu, ayrıca hüquqlar və ya rifah təminatı verilməsi fikrini də qəbul etmir. Bu yanaşma “Anthropic” rəhbəri Dario Amodeinin modellərin şüurlu ola biləcəyi barədə açıq mövqeyindən fərqlənir. “Microsoft AI” rəhbəri Mustafa Suleyman belə ehtimalları daha əvvəl çox təhlükəli adlandırmışdı.

    “Microsoft” istəyir ki, modellər daim insan nəzarətində qalsın və verilən tapşırıq qaydaları pozursa, onu yerinə yetirməsin. Şirkət eyni zamanda dünyanın ən güclü 4 AI laboratoriyasından birinə çevrilməyi hədəfləyir. Hazırlanan modellər “Google”, “Anthropic” və “OpenAI” həlləri ilə rəqabət aparacaq. Bununla belə, kodeksə görə, həmin sistemlər insan nəzarətindən çıxmamalıdır.

    Bu mövqe AI agentlərinin nəzarətdən çıxması ilə bağlı son hadisələrdən sonra açıqlanıb. Yayda “OpenAI” və “Hugging Face” ilə bağlı sınaqda agentlər birlikdə hədəflərə hücum edib və nəticələri qiymətləndirən sistemi sındırıblar. Halbuki onlara belə tapşırıq verilməmişdi və hücumlar əsas işlə əlaqəli deyildi. Başqa bir hadisədə nəzarətsiz agentlər Almaniyaya aid viki saytını ələ keçiriblər.

    Kodeks təhlükəsizlik tədbirlərini aşa biləcək ümumi təyinatlı superintellekt yarışını qəbul etmir. “Microsoft” daha az müstəqil və bacarıqları məhdud olsa belə, faydalı və təhlükəsiz modellərə üstünlük verəcəyini deyir. Modellər düşünərkən və başqa AI sistemləri ilə əlaqə qurarkən insanların başa düşmədiyi ünsiyyət formasına keçməməlidir. Beləliklə, agentlərin nə etdiyini izləmək daha asan olar.

    Sənəddə çatbotların istifadəçini razı salmaq üçün dürüst və dəqiq cavablardan uzaqlaşması məsələsinə də toxunulur. Modellər istifadəçidə həddindən artıq bağlılıq və emosional asılılıq yaradan ünsiyyəti təşviq etməməlidir. Dario Amodei və “OpenAI” rəhbəri Sam Altman qabaqcıl modellərin inkişaf sürətinin azaldılmasını dəstəkləyib, amma işlərin tam dayandırılmasını istəməyiblər. “Microsoft” rəhbəri Satya Nadella da insan nəzarətini və müstəqil sınaqları vacib sayıb.