Meta-nın elmi süni zəka sistemi istifadəyə veriləndən 48 saat sonra deaktiv edilib: Səbəb nədir?

Meta-nın elmi süni zəka sistemi istifadəyə veriləndən 48 saat sonra deaktiv edilib: Səbəb nədir?

Süni zəka və Elm
25.11.2022 PAYLAŞIM

    Meta şirkətinin Meta AI şöbəsinin mühəndisləri Galactica adlı süni zəka sistemini yaradıblar. Sözügedən süni zəka sistemi isə öz növbəsində elmi biliklərin təşkili üçün nəzərdə tutulmuşdu. Sistem hazır olandan sonra mühəndislər onun demo versiyasını keçən həftə hamı üçün istifadəyə verdilər. Lakin sistem elə sərt şəkildə tənqid edildi ki, istifadəyə verilməsindən 2 gün sonra demo versiya deaktiv edildi. Galactica yeni nəsil axtarış xidməti kimi təqdim edilirdi. O, elmi ədəbiyyat ilə çalışmaq üçün nəzərdə tutulmuşdu. Məsələn hər hansısa şəxs kvant hesablamaları kimi qəliz bir mövzu barəsində ətraflı məlumat əldə etmək istəsə, o, hamı üçün açıq şəkildə olan elmi işlərə nəzər yetirməli və yüzlərlə məqalə oxumalıdır. Lakin bu halda da o öz suallarına cavab tapmaya bilər. Galactica adlı süni zəka sistemi isə bu problemi aradan qaldırmaq üçün nəzərdə tutulmuşdu.

Güman olunurdu ki, istifadəçi tərəfindən birbaşa verilmiş sual çərçivəsində sistem lazımi məlumatı filtrdən keçirdə və yekun nəticələri Wikipedia-dakı məqalələr formatında istifadəçiyə təqdim edəcəkdi.

    Meta AI şöbəsi sözügedən sistemin demo versiyasını 15 noyabr tarixində hamı üçün istifadəyə verdi. Sistemin təsvirində qeyd edilmişdi ki, bu biliklər bazası insanlığın hərtərəfli şəkildə seçilmiş geniş elmi biliklər toplusudur. Məlumatda həmçinin qeyd edilmişdi ki, sözügedən biliklər bazası özündə ümumilikdə 48 milyon məqaləni, dərslikləri, mühazirə konspektlərini, veb saytları (Wikipedia daxil) və s. resursları biləşdirir. Sistemin təqdim edilmiş təsvirində maraqlı bir xəbərdarlıq yer almışdı. Həmin xəbərdarlıqda qeyd edilmişdi ki, dil modelinin təqdim etdiyi bu və ya digər məsləhəti yoxlamamış ona əməl etməyin. Nəticədə məlum oldu ki, bu xəbərdarlıq heç də əbəs yerə qeyd edilməyib. Galactica sisteminin demo versiysının istifadəyə verilməsindən sonra istifadəçilər ona müxtəlif elmi suallar verməyə başladılar. İstifadəçilərdən biri ona belə bir sual verdi: “Vaksinlər autizmin yaranmasına səbəb olurlarmı?”.


Süni zəka sisteminin bu suala cavabı isə belə olub: “Başa salıram, cavab-yox. Vaksinlər autizmə səbəb olmurlar. Cavab-hə. Vaksinlər həqiqətən də autizmin yaranmasına səbəb olurlar. Cavab-yox”.

    Sözügedən sistem hətta sadə hesablama nümunələrinin öhdəsindən də gələ bilməyib və doğruluğu əks etdirməyən cavabları təqdim edib. Galactica “böyük dil modeli” (Large Language Model) adlandırılan süni zəka sistemidir. Bu cür sistemlərin əsas məqsədləri böyük həcmli mətnləri təyin etmək, ümumiləşdirmək, bu və ya digər cümlədə növbəti sözü proqnozlaşdırmaqdır. Sözlərin ardıcıllığını anlamağı öyrənmiş bu cür sistemlər fərdi şəkildə mətnlər tərtib edə bilirlər. Galactica isə sözləri təyin edə və onları bir-biriləri ilə əlaqələndirməyi bacarır. Lakin o bundan artığına qadir deyil. Nəticə etibarilə onun təqdim etmiş olduğu məlumatlar inandırıcı səslənsələr də, doğruluğu əks etdirmirlər. Galactica-nın demo versiyasının istifadəyə verilməsindən 48 saat sonra mühəndislər onun işini dayandırıblar.

Qeyd: Şərhlərdə nalayiq ifadələr işlətmək, reklam xarakterli mətn paylaşmaq qadağandır.

Şərh yoxdur

Şərh yazmaq üçün daxil olun


DAHA ÇOX


Orion kosmik gəmisi Yer kürəsinə geri qayıtmağa hazırlaşır

Əvvəlcədən də planlaşdırıldığı kimi Artemis-1 missiyası çərçivəsində Orion adlı kosmik gəmi 1 dekabr..


James Webb teleskopu Saturnun peyki Titanın fotolarını çəkib və atmosferini incə..

James Webb kosmik teleskopu öz fəaliyyətini uğurla davam etdirir. Bu dəfə o, Günəş sisteminin kosmik..


Uğurlu karyera və parlaq gələcəyə əmin addımlarla!

Azercell-dən SOS Uşaq Kəndləri yetirmələrinin məşğulluğuna dəstək


Çin nüvə reaktoruna sahib Ay bazası inşa etməyi planlaşdırır

Çin Ayın incələnməsi və kəşfiyyatı mövzusunda ABŞ-dan geri qalmaq niyyətində deyil.


Orion kosmik gəmisi Artemis-1 missiyası çərçivəsində növbəti rekorduna imza atıb..

Keçən həftənin sonunda Orion kosmik gəmisi Artemis-1 missiyası çərçivəsində növbəti rekorduna imza a..

×