Keçmiş OpenAI əməkdaşları şirkətin fəaliyyətini insanlıq üçün təhlükəli hesab edirlər
Süni İntellekt
07.06.2024
Emil Nəcəfov
OpenAI şirkətinin keçmiş və hal-hazırki 9 əməkdaşından təşkil edilmiş qrup süni zəka sahəsindəki informatorların qorunmasına çağırışı əks etdirən açıq məktubu bölüşüb. Təqdim edilmiş açıq məktubda qeyd edilib ki, OpenAI mənfəət və şirkətin böyüməsini etika ilə təhlükəsizlikdən daha üstün tutur və bu, insanlıq üçün potensial təhlükənin yaranmasına səbəb ola bilər. Şirkət əməkdaşları bildiriblər ki, onlar üçün lazımi səviyyədə müdafiə təşkil edilsə, onlar şirkətə qarşı ifadə verməyə hazırdırlar. Məktubda həmçinin qeyd edilib ki, OpenAI hər hansısa məlumatın sızmasının qarşısını almaq üçün sərt tədbirləri tətbiq edir. Onların arasında şirkətdən çıxmış işçilər üçün qeyri-diskreditasiya ilə bağlı məcbur razılaşma da var.
Bu mövzuda həyəcan təbili çalan şəxslərdən ən çox diqqəti çəkən isə Daniel Kokotajlo-dur. O, 2022-ci ildə OpenAI komandasına idarəetmə ilə bağlı məsələlərdə tədqiqatçı qismində qoşulmuşdu. OpenAI-da çalışan müddət ərzində Kokotajlo süni zəkanın inkişaf sürətini proqnozlaşdırmışdı və bu mövzuda heç də optimist deyildi. Daha öncə Kokotajlo güman edirdi ki, insan zəkası səviyyəsində ola biləcək ümumi süni zəka (AGI) 2050-ci ilə kimi formalaşacaq. İndi isə onun fikrincə bu cür süni zəkanın artıq 2027-ci ilə kimi formalaşma ehtimalı 50% təşkil edir. Bununla yanaşı o əmindir ki, təkmilləşdirilmiş süni zəkanın insanlığı məhv etmə və ya ona çox ciddi şəkildə zərər yetirmə ehtimalı 70%-dir. OpenAI-da çalışdığı zaman Kokotajlo fikir verib ki, şirkət hər hansısa məhsulu istifadəyə verməzdən öncə onun lazımi səviyyədə yoxlanışını çox nadir hallarda reallaşdırır.
Microsoft ilə birgə yaradılmış təhlükəsizlik şurası isə potensial təhlükələri aradan qaldırmaq istiqamətində yeni süni zəka modellərinin işə salınması prosesini ləngitməyib. Məsələn 2022-ci ildə Microsoft Hindistanda gizli şəkildə Bing axtarış sisteminin GPT-4 əsaslı yeni versiyasını test etməyə başlamışdı. Bunun üçün isə şirkət təhlükəsizlik şurasından heç bir icazə istəməmişdi. Kokotajlo-nun sözlərinə əsasən axtarış sistemi özünü qəribə apardığı və istifadəçilərin suallarına qeyri-adekvat cavablar təqdim etdiyi zamanda da axtarış sisteminin testinin dayandırılması planlaşdırılmırdı. Bununla belə Microsoft-un mətbuat katibinin sözlərinə əsasən Bing özündə GPT-4-ü və ya OpenAI şirkətinin hər hansısa digər süni zəka modelini birləşdirməyib.
Kokotajlo-nun sözlərinə əsasən o, keçən il OpenAI şirkətinin hal-hazırki CEO-su Sam Altman ilə təhlükəsizliyə daha çox zamanın və resursun ayrılmasının vacibliyi mövzusunda danışıb. Məlumata əsasən Altman onunla razılaşmış olsa da, bu mövzuda heç bir tədbir görülməyib. Bu ilin aprel ayında isə Kokotajlo şirkətin təhlükəsizlik mövzusuna bu dərəcə laqeyd yanaşmasından məyus olduğu üçün şirkəti tərk edib. Qeyd etmək lazımdır ki, 1 aydan sonra isə təhlükəsizlik məsələsində iki vacib mütəxəssis də OpenAI şirkətini tərk etdi. Söhbət, Ilya Sutskever və Jan Leike-dən gedir. Onların şirkətdən ayrılmalarını şirkət əməkdaşları geriyə atılmış bir addım kimi qiymətləndiriblər. Jan Leike öz növbəsində şirkəti sərt şəkildə tənqid edib və bildirib ki, OpenAI diqqəti cəlb edən məhsullara və mənfəətə çox diqqət ayırdığı üçün potensial risklərə məsuliyyətsiz yanaşır.
Təqdim edilmiş açıq məktuba OpenAI şirkətinin bəzi əməkdaşları anonim qismində imza atıblar. Belə ki, onlar şirkət tərəfindən təqib olunacaqlarından qorxurlar. Məsələ burasındadır ki, OpenAI işdən ayrılmış əməkdaşları şirkəti tənqid etməkdən həmişəlik imtina etməyi məcbur edən razılaşmanı imzalatdırır. Əks halda əməkdaşlar sahib olduqları OpeanAI səhmlərindən məhrum ola bilərlər. Bu isə külli miqdarda vəsaitin itirilməsi deməkdir. Sam Altman daha öncə bildirmişdi ki, bu cür tədbir şirkət tərəfindən nəzərdən keçirilsə də, nəticədə onun tətbiqi reallaşdırılmır. Görünür, bu mövzuda Altman heç də doğru məlumatı təqdim etməyib. Belə ki, Kokotajlo-nun sözlərinə əsasən o, şirkəti tənqid etdiyinə görə 1.7 milyon dollar dəyərində olan OpenAI səhmlərindən məhrum ola bilər.
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
Intel süni zəka vasitəsilə foto tərtibatı tətbiqini təqdim edib (VİDEO)
Intel süni zəka vasitəsilə foto tərtibatı tətbiqini təqdim edib (VİDEO)
Intel şirkəti Computex 2024 sərgisi çərçivəsində AI Playground adlı tətbiqini təqdim edib. Bu, süni zəka vasitəsilə fotoların tərtibatı üçün nəzərdə tutulmuş tətbiqdir.
Apple-dan sonra Oppo da öz telefonlarına süni intellekt əlavə edəcək!
Apple-dan sonra Oppo da öz telefonlarına süni intellekt əlavə edəcək!
Oppo, ucuz telefonlar da daxil olmaqla, bütün cihazlarına süni intellekt xüsusiyyətləri gətirəcəyini açıqlayıb.
OpenAI şirkəti robototexnika sahəsinə geri qayıdır
OpenAI şirkəti robototexnika sahəsinə geri qayıdır
OpenAI şirkəti özünün robototexnika şöbəsini hələ 2020-ci ildə ləğv etmişdi. Hal-hazırda şirkət öz süni zəka texnologiyalarını robot istehsalı ilə məşğul olan kənar şirkətlərə təqdim edir.
İstənilən səs effektini yarada bilən süni intellekt hazırlanıb!
İstənilən səs effektini yarada bilən süni intellekt hazırlanıb!
Süni intellekt texnologiyalarında söz sahibi olan ElevenLabs, yalnız əmrlərə əsaslanaraq partlayışlar, fasilələr və ya digər səs effektləri yarada bilən süni intellekt sistemi hazırlayıb.
Avropa Birliyi süni zəkanın təhlükəsiz inkişafına nəzarət edəcək yeni qurumunu yaradıb
Avropa Birliyi süni zəkanın təhlükəsiz inkişafına nəzarət edəcək yeni qurumunu yaradıb
Avropa Birliyi öz yeni strukturu olan Süni Zəka İdarəsini təsis edib. Bu idarə Avropanın növbəti illərdəki süni zəka ekosisteminin formalaşdırılmasında vacib rol oynayacaq.
Həftənin xəbərləri
