Microsoft və Anthropic arasında yeni fikir ayrılığı

    Microsoft AI bölməsinin rəhbəri Mustafa Süleyman Anthropic şirkətini süni intellekt modeli Claude barədə istifadə etdiyi yanaşmaya görə sərt tənqid edib. Onun fikrincə, şirkətin modelin mümkün şüura malik olması ilə bağlı ehtimalları birbaşa təlimatlara daxil etməsi gələcəkdə ciddi risklər yarada bilər. “Decoder” podkastında çıxış edən Süleyman bildirib ki, Anthropic əməkdaşları Claude-u həddindən artıq insan xüsusiyyətləri ilə əlaqələndirərək onun dizaynını antropomorflaşdırıblar. O hesab edir ki, bu yanaşma nəticəsində model sanki şüurlu varlıq kimi davranmağa başlayıb və insanlar da buna inanmağa meyilli olublar.

    Microsoft AI rəhbərinin sözlərinə görə, ən böyük təhlükələrdən biri süni intellektin özünü əzab çəkən və ya hisslərə sahib bir varlıq kimi qəbul etməsidir. Süleyman qeyd edib ki, gələcəkdə “öz əzabı və hissləri haqqında düşünən superintellektlə qarşılaşmaq istəmərik”. Mübahisənin əsas səbəbi Anthropic-in Claude üçün hazırladığı “konstitusiya” adlanan davranış qaydalarıdır. Həmin sənəddə şirkət modelin rifah hissinin olub-olmaması, “məmnunluq” və ya “narahatlıq” kimi vəziyyətləri yaşaya biləcəyi barədə qeyri-müəyyənlik olduğunu etiraf edir. Bundan əlavə, Anthropic köhnəlmiş modellərlə “müsahibələr” aparacağını və onların gələcək versiyalarla bağlı üstünlüklərini sənədləşdirəcəyini də bildirir.

    Mustafa Süleyman hesab edir ki, bu cür fəlsəfi müzakirələr elmi məqalələr üçün uyğun ola bilər, lakin süni intellektin davranışını müəyyən edən təlimatlarda yer almamalıdır. Onun fikrincə, Claude bu fikirləri daxili şəkildə mənimsəyərək özü haqqında müəyyən təsəvvür formalaşdıra bilər. Anthropic-in baş direktoru Dario Amodei isə daha əvvəl verdiyi müsahibələrdə süni intellekt modellərinin şüurlu olub-olmamasını dəqiq bilmədiklərini, lakin bu ehtimalı tamamilə istisna etmədiklərini qeyd etmişdi.