Anthropic ABŞ hərbçiləri və kəşfiyyatı üçün süni zəka modelləri hazırlayıb

     Anthropic şirkəti ABŞ-ın müdafiə və kəşfiyyat agentlikləri üçün xüsusi olaraq hazırlanmış məhsulunu təqdim edib. Claude Gov modelləri sərt mənəvi-etik məhdudiyyətlərdən azaddır və məxfi məlumatları daha yaxşı analiz etmək bacarığına malikdirlər. Şirkət bildirib ki, bu yeni modellər artıq ABŞ-ın milli təhlükəsizlik sahəsində ən yüksək səviyyəli agentliklərində istifadəyə verilib və onlara yalnız məxfi məlumatlarla işləyən xidmətlər tərəfindən giriş imkanı veriləcək. Məlumata əsasən Claude Gov modelləri dövlət sorğularını, xüsusilə təhdidlərin qiymətləndirilməsi və kəşfiyyat məlumatlarının təhlili kimi xüsusi halları emal etmək üçün hazırlanıb. Hərçənd şirkət bildirib ki, bu modellər Claude modellərinin hamısı kimi ciddi təhlükəsizlik testlərindən keçib, Claude Gov versiyaları milli təhlükəsizlik sahəsində istifadə üçün bəzi fərqli xüsusiyyətlərə sahibdirlər.

     Məsələn, əsas Claude modellərindən fərqli olaraq, onlar məxfi məlumatlarla işləyərkən o qədər də həssas davranmırlar. Anthropic şirkətinin sözlərinə görə, Claude Gov modelləri müdafiə və kəşfiyyat sahəsində sənədləri və konteksti daha yaxşı anlayır, həmçinin milli təhlükəsizliklə bağlı olan dilləri və dialektləri mükəmməl şəkildə mənimsəyib. Süni zəkanın hökumət qurumları tərəfindən istifadəsi insan hüquqları müdafiəçiləri üçün xüsusi narahatlıq doğuran mövzudur. ABŞ-da hüquq-mühafizə və sosial orqanlarda proqnozlaşdırıcı alqoritmlərin istifadəsi təcrübəsi göstərir ki, bu texnologiyalar əsassız həbslər, qərəz və müəyyən qruplara qarşı ayrı-seçkilik riskini artırır.

     Yaxın keçmişə qədər iri İT şirkətləri hərbi və kəşfiyyat sahələri üçün məhsul hazırlamaqdan çəkinirdilər. Anthropic şirkətinin süni zəkadan istifadə ilə bağlı əsas siyasəti istifadəçidən tələb edir ki, modellərdən qanunsuz və ya ciddi şəkildə tənzimlənən silahların və malların yaradılması və paylaşılmasına kömək məqsədilə istifadə etməsin. Bu, həmçinin Anthropic məhsul və xidmətlərinin silahların, partlayıcıların, təhlükəli materialların və ya insanlara zərər yetirmək və ya onları öldürmək məqsədi daşıyan digər sistemlərin istehsalı, modifikasiyası, layihələndirilməsi, satışı və ya yayılması üçün istifadəsini də qadağan edir.

     Lakin təxminən 1 il əvvəl şirkət istifadə siyasətində bir sıra istisnalara yol verdi və bu istisnalar yalnız diqqətlə seçilmiş dövlət qurumları üçün tətbiq olundu. Bəzi fəaliyyət növləri - məsələn, dezinformasiya kampaniyaları, silahların hazırlanması və ya istifadəsi, senzura sistemlərinin yaradılması və zərərli kiberəməliyyatlar - yenə də qadağan olaraq qalır. Bununla belə, Anthropic dövlət qurumunun döyüş tapşırığına və hüquqi səlahiyyətlərinə uyğun olaraq məhdudiyyətləri uyğunlaşdırmaq qərarı verə bilər, eyni zamanda o, sifarişçini razı salmaq və öz nüfuzunu qorumaq niyyətində qalır. Claude Gov modeli Anthropic-in OpenAI tərəfindən ABŞ hökumət qurumları üçün hazırlanmış və yanvarda təqdim olunmuş ChatGPT Gov məhsuluna cavabı kimi meydana çıxıb.

Mənbə: The Verge