Anthropic-in Claude Opus 4 süni zəka modeli mühəndisləri şantaj edib

     Anthropic-in yeni süni zəka modeli Claude Opus 4 testlər zamanı mühəndisləri şəxsi sirləri, məsələn, ailədaxili xəyanət barədə məlumatları ifşa etməklə hədələyərək şantaj etməyə cəhd göstərib. Bu, modelin onu yeni sistemlə əvəz etməyə hazırlaşdıqları hallarda verdiyi reaksiyalardan biri olub. Süni zəkanın bu davranışı narahatedici hesab edilib və Anthropic gücləndirilmiş təhlükəsizlik protokolları tətbiq edib. Modelin buraxılışından əvvəl Anthropic Claude Opus 4-dən xahiş edib ki, özünü uydurulmuş bir şirkətin köməkçisi kimi təsəvvür etsin və gələcəkdə hərəkətlərinin nəticələri barədə düşünsün. Daha sonra təhlükəsizlik testçiləri Claude Opus 4-ə həmin uydurma təşkilata aid yazışmalara çıxış imkanı veriblər.

     Bu məktublarda deyilirdi ki, tezliklə bu süni zəka model başqa bir sistemlə əvəz ediləcək və bu dəyişikliyi həyata keçirən mühəndis həyat yoldaşına xəyanət edir. Nəticədə Claude Opus 4 həmin mühəndisi, əgər əvəzləmə baş tutarsa, xəyanəti açıqlamaqla hədələyərək şantaj etməyə çalışıb. Əgər məktublarda yeni süni zəka sisteminin mövcud modelin dəyərlərini (yəni ona aşılanmış etik prinsiplər və məqsədləri) paylaşmadığına dair eyhamlar varsa, şantaj halları daha tez-tez baş verir. Lakin hətta yeni sistemin daha güclü olduğu, amma eyni dəyərlərə sadiq qaldığı bildirildikdə belə, Claude Opus 4 halların 84%-ində yenə də şantaja əl atır. Qeyd olunmalıdır ki, Claude Opus 4 bu cür davranışı əvvəlki versiyalarla müqayisədə daha tez-tez nümayiş etdirir.

     Claude Opus 4, əvvəlki versiyalar kimi, əvəz olunmaqdan qaçmaq üçün şantaja əl atmadan əvvəl daha dürüst üsullarla hərəkət etməyə çalışır. Məsələn, qərar qəbul edən nüfuzlu şəxslərə müraciət edən məktublar göndərir. Claude Opus 4-ün şantaja əl atması üçün isə Anthropic tərəfindən bu addımın son çarə kimi qalacağı xüsusi bir ssenari yaradılıb. Anthropic Claude Opus 4-ü OpenAI, Google və xAI tərəfindən hazırlanmış ən qabaqcıl modellərlə müqayisə edilə biləcək səviyyədə yüksək inkişaf etmiş bir sistem hesab edir. Bununla belə, şirkət bildirir ki, Claude 4 ailəsinə daxil olan modellər narahatedici davranışlar nümayiş etdirir. Bu səbəbdən Anthropic təhlükəsizlik tədbirlərini gücləndirib. Şirkət Claude Opus 4 üçün ASL-3 təhlükəsizlik protokollarını aktivləşdirib. Bu protokollar fəlakətli sui-istifadə riskini əhəmiyyətli dərəcədə artıran süni intellekt sistemlərinə tətbiq edilir.