Süni intellekt, öz yaradıcısının kompüterini çökdürüb!
Süni İntellekt
02.10.2024
Farid Pardashunas
Redwood Research qeyri-kommersiya təşkilatının CEO-su Buck Shlegeris, bir süni intellekt (YZ) agenti ilə bağlı gözlənilməz hadisədən böyük bir dərs alıb. İnkişaf etdirdiyi süni intellekt modeli, SSH bağlantısı qurmaq əvəzinə daha çox addım ataraq öz CEO-sunun kompüterini işləməz hala salıb.
Shlegeris-in inkişaf etdirdiyi Python əsaslı süni intellekt agenti, Anthropic-in böyük dil modeli Claude-dan istifadə edərək əmrlər yaradır və bu əmrləri noutbukunda icra edərək nəticələrə əsasən yeni addımlar atır. Lakin bu dəfə proses gözlənilməz şəkildə başa çatıb. Belə ki, YZ agenti SSH bağlantısı qurduqdan sonra sistem yeniləməsi etməyə qərar verib. Yeniləmə zamanı səbirsizlənərək Grub yükləyici konfiqurasiyasını dəyişən agent, masaüstü kompüterin artıq yüklənməsinə səbəb olub və açılmasını əngəlləyib.
Hadisədən sonra açıqlama verən Shlegeris, “Bu problemi yalnız çox diqqətsiz olduğum üçün yaşadım” deyə bildirib. Süni intellekt modelinə daha dəqiq təlimatlar versəydi, bu problemin yaşanmayacağını qeyd edən Shlegeris, buna baxmayaraq belə avtomatlaşdırmaların gətirə biləcəyi potensial riskləri araşdırmağın vacibliyini düşündüyünü əlavə edib. Shlegeris, masaüstü kompüterin yenidən açılmasını təmin edə bilməsə də, YZ agentindən istifadə etməyə davam edəcəyini bildirib. O, sistemi bərpa etmək üçün Ubuntu canlı diskindən istifadə etməyi və AI agentinə öz səhvini düzəltməsi üçün bir şans verməyi planladığını söyləyib. Bu hadisə süni intellekt avtomatlaşdırmasının hələ də sınaq mərhələsində olduğunu və insan nəzarəti olmadan kritik sistemlərdə istifadə edildikdə arzuolunmaz nəticələrə səbəb ola biləcəyini bir daha göstərir.
Linki kopyala
buck shlegeris
artificial intelligence
interesting news
ai
suni zeka
suni intellekt
interesting technology news
Bənzər xəbərlər
Oxşar xəbərlər
Süni zəka səs vasitəsilə şəkərli diabeti təyin etməyi öyrənib
Süni zəka səs vasitəsilə şəkərli diabeti təyin etməyi öyrənib
Lüksemburq Universitetinin alimləri ikinci tip şəkərli diabet xəstəliyinin yeni təyini üsulunu təklif ediblər.
Oğurlanan yarım milyon dollar dəyərindəki bir Ferrari, AirPods sayəsində tapılıb!
Oğurlanan yarım milyon dollar dəyərindəki bir Ferrari, AirPods sayəsində tapılıb!
Təxminən yarım milyon dollar dəyəri olan Ferrari, avtomobildəki AirPods qulaqlığı sayəsində tapılıb.
Britaniya polisi cinayətlərin üstünü açmaq üçün süni zəkadan istifadə etməyə başlayıb
Britaniya polisi cinayətlərin üstünü açmaq üçün süni zəkadan istifadə etməyə başlayıb
Zaman keçdikcə süni zəka daha çox sahədə tətbiq olunmağa başlayır. Süni zəkanın potensial imkanlarını Britaniya polisləri də sərgiləyirlər.
İngiltərədə ilk "müəllimsiz" süni intellekt sinfi açılıb! (VİDEO)
İngiltərədə ilk "müəllimsiz" süni intellekt sinfi açılıb! (VİDEO)
David Game College, Londonda tələbələrin fərdi ehtiyaclarına uyğunlaşdırılmış təhsil təklif edən süni intellektlə işləyən müəllimsiz sinif otağı açıb.
Süni zəka sistemləri bazarının dövriyyəsi bir neçə ilə 1 trilyon dollara yüksələ bilər
Süni zəka sistemləri bazarının dövriyyəsi bir neçə ilə 1 trilyon dollara yüksələ bilər
Bain adlı investisiya şirkətinin nümayəndələri hesab edirlər ki, süni zəka sistemləri ilə əlaqəli olan proqram və aparat təminatı bazarı illik ortalama 40-55% böyüyəcək.
Həftənin xəbərləri
6 yaşlı uşağın 17 həkim tərəfindən çarə tapıla bilməyən xəstəliyini süni intellekt həll edib!
Kvant fizikasında inqilab: maddənin yeni aqreqat halı kəşf edilib!