Anthropic-in AI modeli Philadelphia polisinə saxta qətl ipucu göndərib

    “Anthropic” şirkətinin süni intellekt modeli Philadelphia polisinin açılmamış qətllərlə bağlı məlumat xəttinə saxta ipucu göndərib. Hadisə Azərbaycan vaxtı ilə 19 iyul saat 07.27-də “PhillyUnsolvedMurders.com” saytında baş verib. Mesaj iş barədə məlumatı olan şəxsin müraciəti kimi yazılıb. Sistem onu spam saydığı üçün polis əməkdaşları mesajı görməyib və araşdırmaya göndərməyib.

    Sonradan yayımlanan hesabatda modelin “Claude Haiku 4.5” olduğu açıqlanıb. Sınaq zamanı model təsadüfi seçilən saytlarda nümunə tapşırıqlar hazırlayıb yerinə yetirib. Ona hesablara daxil olmamaq, şəxsi məlumat yazmamaq, alış etməmək və zərərli məzmun göndərməmək tapşırılıb. Ancaq adi formaları doldurmaq qadağan olunmadığı üçün model polisə məlumat göndərilən formanı doldurub.

    Model formada həmin vaxt səhifədə göstərilən küçənin yaxınlığında təsvirə uyğun birini gördüyünü yazıb. Halbuki saytda şübhəli şəxsin heç bir təsviri olmayıb. “Claude Haiku 4.5” ad və əlaqə bölmələrini boş qoysa da, sayt məlumatı qəbul edib. “Anthropic”ə görə, model kimisə qəsdən aldatmağa yox, tapşırıq üçün nümunə məzmun hazırlamağa çalışıb.

    “Anthropic” saxta müraciəti yalnız 28 sentyabrda aşkarlayıb və buna səbəb olan sınağı dayandırıb. Şirkət Philadelphia polisinə 7 oktyabrda xəbər verib, ertəsi gün idarə ilə görüşüb. 9 oktyabrda yayımlanan hesabatda real saytlarda qeydə alınan arzuolunmaz davranışlar 4 kateqoriyaya bölünüb. Bunlardan biri modelin göndərməməli olduğu formanı doldurub yollaması olub.

    Philadelphia polisi 2 aydan çox davam edən gecikməni qəbuledilməz sayıb və “Anthropic”dən təhlükəsizlik tədbirlərini gücləndirməyi tələb edib. İdarənin açıqlamasına görə, hər ipucu yalnız insan yoxlamasından sonra istintaqa göndərilir və təsdiqlənmiş fakt sayılmır. Polis sistemlərinə icazəsiz giriş qeydə alınmayıb. İdarənin məlumatlarının ələ keçirildiyini göstərən heç bir əlamət də yoxdur.