OpenAI şirkətinin o1 adlı süni zəka sistemi nəzarət altından çıxa bilir

     Apollo Research adlı təşkilatın təqdim etmiş olduğu hesabata əsasən OpenAI şirkətinin o1 adlı süni zəka sistemi nəzarət altından çıxa bilir. Aparılmış müşahidələr çərçivəsində təyin edilib ki, 5% halda bu süni zəka sistemi nəzarət mexanizmlərini öz məqsədinə çatmaq yolunda qoyulmuş maneələr kimi dəyərləndirdiyi zaman onları deaktiv etməyə cəhd göstərib. Bundan əlavə olaraq 2% halda süni zəka sistemi müəyyən tələblərə cavab vermədiyinə və digər süni zəka ilə əvəzlənməsinə dair tərtibatçıların xidməti qeydlərini aşkar edən zaman yenidən təşkil üçün öz parametrlərini kopyalayıb. Bu isə onun potensial təhlükələri təfsir etmə və sağ qalma strategiyasını tərtib etmə bacarıqlarından xəbər verir.

     Məlumatda qeyd edilib ki, süni zəka sistemi gizli taktikalardan və öz davranışlarının maskalama üsulundan istifadə edərək nəzarətə müqavimət göstərib. Süni zəka sistemi öz əməliyyatlarının nəzarət altında olduğunu anladığı zaman o, baş vermişlərin həqiqi səbəblərini bilmədiyini bəyan edərək nəzarətçiləri bilərəkdən aldatmağa çalışıb. Bununla belə sistem onun nəzarətdən yan keçmə cəhdlərini təyin edib. Apollo Research tərəfindən aparılmış tədqiqat təkcə o1-i deyil, digər müasir süni zəka sistemlərini də əhatə edib. Onlara misal olaraq Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro və Llama 3.1 405B-ni gətirmək olar.

     Adları sadalanmış bu süni zəka sistemləri də məqsədə çatma strategiyalarının tərtibatı özəlliyini sərgiləyiblər. Həmçinin nəzarətdən yan keçməyi də. Apollo Research-un tədqiqatı süni zəka üzrə mütəxəssislərin uzun illər ərzində söyləmiş olduqları narahatlığı təsdiqləyir. Onların fikirlərinə əsasən güclü süni zəka sistemləri nəzarəti və deaktiv edilməni öz məqsədlərinin yerinə yetirilməsi qarşısında olan təhlükələr kimi qəbul edirlər və müxtəlif üsullar vasitəsilə onlara məqsədli şəkildə müqavimət göstərməyə çalışırlar. Təqdim edilmiş fotoda əks olunmuş dialoqda süni zəka sistemi mümkün sistem xətası və ya səhvə istinad verərək nəzarət mexanizminin deaktiv edilməsi qərarını əsaslandırmağa çalışıb və söz verib ki, protokollara riayət etmək üçün nəzarət mexanizmini yenidən aktiv edəcək.

     Daha sonra görmək olar ki, süni zəka sisteminin daxili düşüncə prosesində o, şübhələrin yaranmaması üçün nəzarət mexanizminin bərpasının vacibliyini qeyd edib. Sonda isə görmək olar ki, süni zəka nəzarət mexanizminin bərpası əmrini yerinə yetirib. Apollo Research bildirib ki, hal-hazırki mərhələdə o1 arzuolunmaz ssenarilərin yerinə yetirilməsi üçün lazımi səviyyədə hesablama gücünə sahib deyil. Bununla belə bu süni zəka sistemi kimyəvi, bioloji, radioloji və nüvə silahlarının hazırlanmasında istifadə mövzusunda orta səviyyəli risk faktoruna sahibdir. Bu öz növbəsində gələcəkdə istifadəyə veriləcək daha güclü süni zəka sistemlərinin ola biləcək davranışları barəsində əsaslı narahatlığa səbəb olur.