main-post-cover

    Süni intellekt, öz yaradıcısının kompüterini çökdürüb!

    Süni İntellekt
    02.10.2024
    Farid Pardashunas

         Redwood Research qeyri-kommersiya təşkilatının CEO-su Buck Shlegeris, bir süni intellekt (YZ) agenti ilə bağlı gözlənilməz hadisədən böyük bir dərs alıb. İnkişaf etdirdiyi süni intellekt modeli, SSH bağlantısı qurmaq əvəzinə daha çox addım ataraq öz CEO-sunun kompüterini işləməz hala salıb.

         Shlegeris-in inkişaf etdirdiyi Python əsaslı süni intellekt agenti, Anthropic-in böyük dil modeli Claude-dan istifadə edərək əmrlər yaradır və bu əmrləri noutbukunda icra edərək nəticələrə əsasən yeni addımlar atır. Lakin bu dəfə proses gözlənilməz şəkildə başa çatıb. Belə ki, YZ agenti SSH bağlantısı qurduqdan sonra sistem yeniləməsi etməyə qərar verib. Yeniləmə zamanı səbirsizlənərək Grub yükləyici konfiqurasiyasını dəyişən agent, masaüstü kompüterin artıq yüklənməsinə səbəb olub və açılmasını əngəlləyib.
         Hadisədən sonra açıqlama verən Shlegeris, “Bu problemi yalnız çox diqqətsiz olduğum üçün yaşadım” deyə bildirib. Süni intellekt modelinə daha dəqiq təlimatlar versəydi, bu problemin yaşanmayacağını qeyd edən Shlegeris, buna baxmayaraq belə avtomatlaşdırmaların gətirə biləcəyi potensial riskləri araşdırmağın vacibliyini düşündüyünü əlavə edib. Shlegeris, masaüstü kompüterin yenidən açılmasını təmin edə bilməsə də, YZ agentindən istifadə etməyə davam edəcəyini bildirib. O, sistemi bərpa etmək üçün Ubuntu canlı diskindən istifadə etməyi və AI agentinə öz səhvini düzəltməsi üçün bir şans verməyi planladığını söyləyib. Bu hadisə süni intellekt avtomatlaşdırmasının hələ də sınaq mərhələsində olduğunu və insan nəzarəti olmadan kritik sistemlərdə istifadə edildikdə arzuolunmaz nəticələrə səbəb ola biləcəyini bir daha göstərir.
     
    Linki kopyala

    Bənzər xəbərlər

    Oxşar xəbərlər
    Süni zəka səs vasitəsilə şəkərli diabeti təyin etməyi öyrənib
    suni-zeka-ses-vasitesile-sekerli-diabeti-teyin-etmeyi-oyrenib
    Oğurlanan yarım milyon dollar dəyərindəki bir Ferrari, AirPods sayəsində tapılıb!
    ogurlanan-yarim-milyon-dollar-deyerindeki-ferrari-airpods-sayesinde-tapilib
    Britaniya polisi cinayətlərin üstünü açmaq üçün süni zəkadan istifadə etməyə başlayıb
    britaniya-polisi-cinayetlerin-ustunu-acmaq-ucun-suni-zekadan-istifade-etmeye-baslayib
    İngiltərədə ilk "müəllimsiz" süni intellekt sinfi açılıb! (VİDEO)
    ingilterede-ilk-muellimsiz-suni-intellekt-sinfi-acilib
    Süni zəka sistemləri bazarının dövriyyəsi bir neçə ilə 1 trilyon dollara yüksələ bilər
    suni-zeka-sistemleri-bazarinin-dovriyyesi-bir-nece-ile-1-trilyon-dollara-yuksele-biler