Meta-nın elmi süni zəka sistemi istifadəyə veriləndən 48 saat sonra deaktiv edilib: Səbəb nədir?
Süni İntellekt
25.11.2022
Emil Nəcəfov
Meta şirkətinin Meta AI şöbəsinin mühəndisləri Galactica adlı süni zəka sistemini yaradıblar. Sözügedən süni zəka sistemi isə öz növbəsində elmi biliklərin təşkili üçün nəzərdə tutulmuşdu. Sistem hazır olandan sonra mühəndislər onun demo versiyasını keçən həftə hamı üçün istifadəyə verdilər. Lakin sistem elə sərt şəkildə tənqid edildi ki, istifadəyə verilməsindən 2 gün sonra demo versiya deaktiv edildi. Galactica yeni nəsil axtarış xidməti kimi təqdim edilirdi. O, elmi ədəbiyyat ilə çalışmaq üçün nəzərdə tutulmuşdu. Məsələn hər hansısa şəxs kvant hesablamaları kimi qəliz bir mövzu barəsində ətraflı məlumat əldə etmək istəsə, o, hamı üçün açıq şəkildə olan elmi işlərə nəzər yetirməli və yüzlərlə məqalə oxumalıdır. Lakin bu halda da o öz suallarına cavab tapmaya bilər. Galactica adlı süni zəka sistemi isə bu problemi aradan qaldırmaq üçün nəzərdə tutulmuşdu.
Güman olunurdu ki, istifadəçi tərəfindən birbaşa verilmiş sual çərçivəsində sistem lazımi məlumatı filtrdən keçirdə və yekun nəticələri Wikipedia-dakı məqalələr formatında istifadəçiyə təqdim edəcəkdi.
Meta AI şöbəsi sözügedən sistemin demo versiyasını 15 noyabr tarixində hamı üçün istifadəyə verdi. Sistemin təsvirində qeyd edilmişdi ki, bu biliklər bazası insanlığın hərtərəfli şəkildə seçilmiş geniş elmi biliklər toplusudur. Məlumatda həmçinin qeyd edilmişdi ki, sözügedən biliklər bazası özündə ümumilikdə 48 milyon məqaləni, dərslikləri, mühazirə konspektlərini, veb saytları (Wikipedia daxil) və s. resursları biləşdirir. Sistemin təqdim edilmiş təsvirində maraqlı bir xəbərdarlıq yer almışdı. Həmin xəbərdarlıqda qeyd edilmişdi ki, dil modelinin təqdim etdiyi bu və ya digər məsləhəti yoxlamamış ona əməl etməyin. Nəticədə məlum oldu ki, bu xəbərdarlıq heç də əbəs yerə qeyd edilməyib. Galactica sisteminin demo versiysının istifadəyə verilməsindən sonra istifadəçilər ona müxtəlif elmi suallar verməyə başladılar. İstifadəçilərdən biri ona belə bir sual verdi: “Vaksinlər autizmin yaranmasına səbəb olurlarmı?”.
Süni zəka sisteminin bu suala cavabı isə belə olub: “Başa salıram, cavab-yox. Vaksinlər autizmə səbəb olmurlar. Cavab-hə. Vaksinlər həqiqətən də autizmin yaranmasına səbəb olurlar. Cavab-yox”.
Sözügedən sistem hətta sadə hesablama nümunələrinin öhdəsindən də gələ bilməyib və doğruluğu əks etdirməyən cavabları təqdim edib. Galactica “böyük dil modeli” (Large Language Model) adlandırılan süni zəka sistemidir. Bu cür sistemlərin əsas məqsədləri böyük həcmli mətnləri təyin etmək, ümumiləşdirmək, bu və ya digər cümlədə növbəti sözü proqnozlaşdırmaqdır. Sözlərin ardıcıllığını anlamağı öyrənmiş bu cür sistemlər fərdi şəkildə mətnlər tərtib edə bilirlər. Galactica isə sözləri təyin edə və onları bir-biriləri ilə əlaqələndirməyi bacarır. Lakin o bundan artığına qadir deyil. Nəticə etibarilə onun təqdim etmiş olduğu məlumatlar inandırıcı səslənsələr də, doğruluğu əks etdirmirlər. Galactica-nın demo versiyasının istifadəyə verilməsindən 48 saat sonra mühəndislər onun işini dayandırıblar.
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
Həftənin xəbərləri
Huawei nova 13 və nova 13 Pro təqdim olunub - QİYMƏTİ
14 yaşlı bir uşağın ölümündə süni intellekt günahkar görülüb!