OpenAI AI risklərini araşdıracaq yeni “Preparedness” rəhbəri axtarır

     Technote.az “TechCrunch” platformasına istinadən bildirir ki, OpenAI süni intellekt texnologiyalarının yaratdığı potensial riskləri daha yaxından izləmək üçün yeni Preparedness rəhbəri vəzifəsinə icraçı səviyyəsində kadr axtarışına başlayıb. Şirkətin CEO-su Sem Altman X platformasında paylaşdığı postda bildirib ki, süni intellekt modelləri artıq real problemlər yaratmağa başlayır. Bu risklər arasında modellərin psixi sağlamlığa mümkün təsirləri, eləcə də kibertəhlükəsizlik sahəsində kritik boşluqları aşkarlaya biləcək qədər güclü olmaları yer alır.

     Şirkətin vakansiya elanında qeyd olunur ki, Head of Preparedness OpenAI-ın “Preparedness Framework” adlı çərçivəsinin icrasına cavabdeh olacaq. Bu çərçivə süni intellektin yaratdığı yüksək riskli və ciddi zərər potensialına malik imkanların izlənməsi və onlara hazırlıq strategiyasını əhatə edir.

      OpenAI bu hazırlıq komandasını ilk dəfə 2023-cü ildə elan etmişdi. Komanda həm qısamüddətli riskləri (məsələn, fişinq hücumları), həm də daha uzunmüddətli və nəzəri təhlükələri (nüvə riskləri kimi) araşdırmaqla məşğul idi. Lakin bir il keçməmiş, Preparedness rəhbəri Aleksander Madry süni intellektin məntiq və düşünmə qabiliyyətləri üzərində işləyən yeni vəzifəyə təyin edilib. Bundan əlavə, OpenAI-da bir sıra təhlükəsizlik yönümlü rəhbərlər ya şirkəti tərk edib, ya da fərqli sahələrə keçirilib.

      Son dövrlərdə generativ AI çatbotlarının psixi sağlamlığa təsiri də ciddi müzakirə mövzusuna çevrilib. ABŞ-də açılan bəzi məhkəmə işlərində ChatGPT-nin istifadəçilərin yanlış inanclarını gücləndirdiyi, sosial izolyasiyanı artırdığı iddia olunur. OpenAI isə ChatGPT-nin emosional çətinlik əlamətlərini daha yaxşı tanıması və istifadəçiləri real dəstək mənbələrinə yönləndirməsi üzərində çalışdığını bildirir.