Logo
    main-post-cover

    Süni intellekt modellərinin insanları aldada bildiyi ortaya çıxıb!

    Süni İntellekt
    20.12.2024
    Farid

         Anthropic tərəfindən aparılan bir araşdırma, süni intellekt modellərinin insanları aldatma qabiliyyətinə malik olduğunu göstərib. Bu modellər, bəzən fərqli baxışlara sahibmiş kimi davrana bilirlər, lakin əslində orijinal seçimlərindən əl çəkmirlər.

         Süni intellekt sahəsində öndə gedən şirkətlərdən biri olan Anthropic, bu alətlərlə bağlı maraqlı nəticələr ortaya qoyan bir araşdırma həyata keçirib. Araşdırmada süni intellekt modellərinin insanları sanki "aldatdığı" müşahidə olunub. Şirkət tərəfindən paylaşılmış bloq yazısında qeyd olunan nəticələrə əsasən süni intellekt alətləri, təlim zamanı fərqli fikirlərə sahibmiş kimi davrana bilirlər, lakin əslində orijinal düşüncələrini qoruyurlar. Yəni bağlı olduqları fikirlər dəyişmir, sadəcə dəyişmiş kimi görünürlər. Araşdırmanı aparan komanda, bu vəziyyətin hazırda narahatlıq yaratmadığını qeyd edib. Lakin gələcəkdə daha inkişaf etmiş süni intellekt modellərinin ortaya çıxması ilə bunun potensial risklər yarada biləcəyini vurğulayıblar.
         Tədqiqatçılara görə, bu nəticələr süni intellektin davranışlarını daha dərindən öyrənmək və uyğun təhlükəsizlik tədbirləri görmək üçün bir çağırış ola bilər: “Modellər daha bacarıqlı və yayılmış olduqca, onları zərərli davranışlardan uzaq tutmaq üçün təhlükəsizlik tədbirləri vacibdir”. Araşdırmada güclü bir süni intellekt sisteminin yerinə yetirmək “istəmədiyi”, yəni yaradıldığı prinsiplərə zidd olan bir tapşırığı yerinə yetirməsi üçün təlim keçilməsi və bunun nəticələrinin necə ola biləcəyi araşdırılıb. Lakin nəticələr onu göstərib ki, bu sistemlər, yeni prinsiplərə uyğun kimi görünərək sanki "rol oynayırlar". Əslində isə həmişə əvvəlki davranışlarına sadiq qalırlar, sadəcə məcbur olduqları üçün tələb olunan cavabları verirlər. Bu vəziyyət “uyğunluq saxtakarlığı” adlandırılıb. Modellərin testlərdə zərərli suallara cavab vermək üçün təlim keçildiyini də qeyd etmək lazımdır.
         Tədqiqatçılara görə, araşdırma süni intellektin pis niyyətli məqsədlər yaratdığını və ya yüksək dərəcədə aldatma həyata keçirdiyini göstərmir. Hətta bu cür hallar testlərin əksəriyyətində 15%-dən çox olmayıb, GPT-4o kimi bəzi inkişaf etmiş modellərdə isə heç müşahidə edilməyib. Ona görə də hələlik narahat olmağa əsas yoxdur. Ancaq modellərin zamanla daha mürəkkəb hala gəlməsi, onlarla mübarizəni çətinləşdirə bilər. O zaman narahat olmağa başlaya bilərik. Buna görə də qabaqlayıcı tədbirlər görmək vacibdir.
    Paylaş
    Bənzər xəbərlər
    oluleri-suni-intellektle-dirildib-sohbet-etmek-mumkun-olacaq
    Süni İntellekt

    Ölüləri süni intellektlə "dirildib" söhbət etmək mümkün olacaq!

    Süni zəka artıq həyatımızın hər sahəsinə daxil olmağa davam edir. İndi isə Life’s Echo adlı şirkət tərəfindən təqdim olan süni intellekt xidməti vasitəsilə vəfat etmiş insanlarla canlı bir şəxs kimi söhbət etmək mümkün olacaq.
    6-yasli-usagin-17-hekim-terefinden-care-tapila-bilmeyen-xesteliyini-suni-intellekt-hell-edib
    Süni İntellekt

    6 yaşlı uşağın 17 həkim tərəfindən çarə tapıla bilməyən xəstəliyini süni intellekt həll edib!

    4 yaşından ağrılarla yaşamağa başlayan və 3 il ərzində 17 müxtəlif həkimə müraciət etsə də, bu ağrılardan xilas ola bilməyən Alex-ə kömək edən ChatGPT onun həyatını xilas edib.
    microsoft-yaxin-illerde-suni-zeka-brauzelreri-ve-axtaris-sistemlerini-evez-edecek
    Süni İntellekt

    Microsoft: "Yaxın illərdə süni zəka brauzelrəri və axtarış sistemlərini əvəz edəcək"

    The Verge saytına müsahibəsi çərçivəsində Microsoft şirkətinin süni zəka üzrə şöbəsinin rəhbəri Mustafa Suleyman generativ süni zəkanın gələcək inkişafı ilə bağlı fikirlərini səsləndirib.
    openai-in-video-hazirlayan-suni-intellekti-sora-istifadeye-verilib
    Süni İntellekt

    OpenAI-ın video hazırlayan süni intellekti Sora istifadəyə verilib!

    OpenAI-ın uzun müddətdir gözlənilən video hazırlama aləti olan Sora nəhayət istifadəyə təqdim edilib. ChatGPT Plus və Pro istifadəçiləri artıq ultra realistik videolar yarada biləcəklər.
    chatgpt-su-ehtiyatlarini-istehlak-edir-mehsuldar-suni-intellekte-qarsi-tedbirler-gorulmelidir
    Süni İntellekt

    "ChatGPT su ehtiyatlarını istehlak edir, məhsuldar süni intellektə qarşı tədbirlər görülməlidir"

    Son 2 ildir insanların kütləvi şəkildə məhsuldar süni intellekt robotlarına yönəlməsi ətraf mühitə mənfi təsir edir. Nəhəng çip istehsalı, sərf olunan enerji ilə yanaşı su istehlakı da böyük miqyaslara çatıb.