OpenAI şirkətinin o1 adlı süni zəka sistemi nəzarət altından çıxa bilir
Süni İntellekt
09.12.2024
Emil Nəcəfov
Apollo Research adlı təşkilatın təqdim etmiş olduğu hesabata əsasən OpenAI şirkətinin o1 adlı süni zəka sistemi nəzarət altından çıxa bilir. Aparılmış müşahidələr çərçivəsində təyin edilib ki, 5% halda bu süni zəka sistemi nəzarət mexanizmlərini öz məqsədinə çatmaq yolunda qoyulmuş maneələr kimi dəyərləndirdiyi zaman onları deaktiv etməyə cəhd göstərib. Bundan əlavə olaraq 2% halda süni zəka sistemi müəyyən tələblərə cavab vermədiyinə və digər süni zəka ilə əvəzlənməsinə dair tərtibatçıların xidməti qeydlərini aşkar edən zaman yenidən təşkil üçün öz parametrlərini kopyalayıb. Bu isə onun potensial təhlükələri təfsir etmə və sağ qalma strategiyasını tərtib etmə bacarıqlarından xəbər verir.
Məlumatda qeyd edilib ki, süni zəka sistemi gizli taktikalardan və öz davranışlarının maskalama üsulundan istifadə edərək nəzarətə müqavimət göstərib. Süni zəka sistemi öz əməliyyatlarının nəzarət altında olduğunu anladığı zaman o, baş vermişlərin həqiqi səbəblərini bilmədiyini bəyan edərək nəzarətçiləri bilərəkdən aldatmağa çalışıb. Bununla belə sistem onun nəzarətdən yan keçmə cəhdlərini təyin edib. Apollo Research tərəfindən aparılmış tədqiqat təkcə o1-i deyil, digər müasir süni zəka sistemlərini də əhatə edib. Onlara misal olaraq Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro və Llama 3.1 405B-ni gətirmək olar.
Adları sadalanmış bu süni zəka sistemləri də məqsədə çatma strategiyalarının tərtibatı özəlliyini sərgiləyiblər. Həmçinin nəzarətdən yan keçməyi də. Apollo Research-un tədqiqatı süni zəka üzrə mütəxəssislərin uzun illər ərzində söyləmiş olduqları narahatlığı təsdiqləyir. Onların fikirlərinə əsasən güclü süni zəka sistemləri nəzarəti və deaktiv edilməni öz məqsədlərinin yerinə yetirilməsi qarşısında olan təhlükələr kimi qəbul edirlər və müxtəlif üsullar vasitəsilə onlara məqsədli şəkildə müqavimət göstərməyə çalışırlar. Təqdim edilmiş fotoda əks olunmuş dialoqda süni zəka sistemi mümkün sistem xətası və ya səhvə istinad verərək nəzarət mexanizminin deaktiv edilməsi qərarını əsaslandırmağa çalışıb və söz verib ki, protokollara riayət etmək üçün nəzarət mexanizmini yenidən aktiv edəcək.
Daha sonra görmək olar ki, süni zəka sisteminin daxili düşüncə prosesində o, şübhələrin yaranmaması üçün nəzarət mexanizminin bərpasının vacibliyini qeyd edib. Sonda isə görmək olar ki, süni zəka nəzarət mexanizminin bərpası əmrini yerinə yetirib. Apollo Research bildirib ki, hal-hazırki mərhələdə o1 arzuolunmaz ssenarilərin yerinə yetirilməsi üçün lazımi səviyyədə hesablama gücünə sahib deyil. Bununla belə bu süni zəka sistemi kimyəvi, bioloji, radioloji və nüvə silahlarının hazırlanmasında istifadə mövzusunda orta səviyyəli risk faktoruna sahibdir. Bu öz növbəsində gələcəkdə istifadəyə veriləcək daha güclü süni zəka sistemlərinin ola biləcək davranışları barəsində əsaslı narahatlığa səbəb olur.
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
Şəkillərdəki məkanları səyahət edə biləcəyiniz 3D modellərə çevirən süni intellekt aləti təqdim edilib! (VİDEO)
Şəkillərdəki məkanları səyahət edə biləcəyiniz 3D modellərə çevirən süni intellekt aləti təqdim edilib! (VİDEO)
World Labs, 2D şəkillərdəki məkanları içində gəzə biləcəyiniz 3D dünyalara çevirən, inqilab yaratma potensialına sahib yeni süni intellekt xüsusiyyətini təqdim edib.
Google DeepMind bir komanda ilə oynana bilən 3D dünyalar yaradan Genie 2 modelini təqdim edib!
Google DeepMind bir komanda ilə oynana bilən 3D dünyalar yaradan Genie 2 modelini təqdim edib!
Google, tək bir vizual əmrlə 3D oyun dünyaları yaradan süni intellekt aləti hazırlayıb. Genie 2 olaraq tanınan bu yeni alət, oyun dizaynı sahəsində və süni intellekt araşdırmaları üçün əhəmiyyətli bir yenilik kimi ön plana çıxır.
OpenAI CEO-su: "Super zəka səviyyəsinə çatmaq üçün uzun yol keçmək lazım gələcək"
OpenAI CEO-su: "Super zəka səviyyəsinə çatmaq üçün uzun yol keçmək lazım gələcək"
OpenAI şirkəti təqribi olaraq 2 il bundan öncə bildirmişdi ki, insan zəkası səviyyəsinə sahib ola biləcək ümumi süni zəka (Artificial General Intelligence / AGI) insan sivilizasiyasını yeni səviyyəyə yüksəldəcək və hamıya inanılmaz yeni imkanlar təqdim edəcək.
ChatGPT-nin gündəlik aktiv istifadəçi kütləsi 300 milyona çatıb
ChatGPT-nin gündəlik aktiv istifadəçi kütləsi 300 milyona çatıb
Süni zəka sahəsindəki böyük rəqabətə baxmayaraq OpenAI şirkətinin süni zəka əsaslı çat-botu olan ChatGPT-nin istifadəçi kütləsi sürətlə böyüməyə davam edir.
ChatGPT-nin axtarış sisteminin cavablarına tam şəkildə inanmaq lazım deyil
ChatGPT-nin axtarış sisteminin cavablarına tam şəkildə inanmaq lazım deyil
Kolumbiya Universitetinin tərkibində fəaliyyət göstərən Rəqəmsal Jurnalistika Mərkəzi tərəfindən aparılmış tədqiqatın nəticələrinə əsasən bir neçə müddət bundan öncə ChatGPT daxilində istifadəyə verilmiş axtarış sistemi öz işinin öhdəsindən pis gəlir.
Həftənin xəbərləri
