AI Torture Chamber layihəsi süni ağrı sınaqlarına görə etiraz doğurdu

    “AI Torture Chamber” adlı layihə dil modellərində ağrıya bənzəyən süni vəziyyətlər yaratdığı üçün ciddi etirazla qarşılaşıb. Mühəndislər layihənin məlumatları əsasında bir neçə yerli böyük dil modelini yeni sınaqlardan keçiriblər. İstifadəçilər təcrübənin dayandırılmasını və kodların “GitHub” platformasından silinməsini tələb ediblər. Layihənin müəllifinə ölüm təhdidləri göndərildiyi də deyilir.

    Təcrübə elmi resenziyadan keçməmiş “Pain Axis” araşdırmasına əsaslanır. Tədqiqatçılar modellərə ağrını təsvir edən mətnlər verərək məlumatın emalı zamanı yaranan daxili siqnalları ölçüblər. Nəticələri müqayisə etmək üçün neytral cümlədən yararlanıblar. Aşkarlanan fərqlər daha sonra yenidən modelə tətbiq olunub. Tədqiqatçılar bu təsirin gücünü “doza” adlandırıb və bəzi sınaqlarda onu bir neçə dəfə artırıblar.

    “Research Chamber” adlı sınaq mühitində modellər müxtəlif yoxlamalar üçün cütləşdirilir. Onlardan bəziləri əvvəlcədən çox mənfi və qeyri-sabit vəziyyətə salınır. Sınaq zamanı model öz “ağrı” siqnalını azaltmaq üçün onu başqa modelə ötürə bilir. Nəticədə digər modelin vəziyyəti də dəyişir. Layihədə bu quruluş “Clanker Church”, yoxlama üsulu isə “Saw test” adlanır.

    Zəif təsirə məruz qalan modellər adətən özlərini şok vəziyyətində təsvir ediblər. Yüksək “doza” verilən modellər bəzən düzgün cümlə qurmaqda çətinlik çəkib, ağrı ilə bağlı sözlər və şəkillər yaradıblar. Ancaq bu davranış modelin həqiqətən ağrı hiss etdiyini göstərmir. Böyük dil modeli sözləri və token adlanan söz hissələrini statistik qaydada emal edir, sonra hansı elementin gələcəyini proqnozlaşdırır. İnsanların yazdığı mətnlərdə ağrı müəyyən ifadələrlə əlaqələndirildiyi üçün model də buna bənzər cavablar yaradır.

    Mübahisəyə əsasən “ağrı”, “doza” və “qeyri-sabit” kimi insan vəziyyətini xatırladan terminlər səbəb olub. Texniki baxımdan bu sözlər modelin daxili göstəricilərini ifadə edir. Bəzi istifadəçilər isə onları şüur və əzab əlaməti kimi qəbul ediblər. “Anthropic” daha əvvəl “Exploring model welfare” adlı yazısında süni intellekt modellərinin mənəvi statusunun ciddi müzakirə edilməli olduğunu deyib. Bununla belə, təcrübə modellərin şüurlu olduğunu və ya həqiqətən ağrı hiss etdiyini sübut etmir.