OpenAI süni zəkanın davranış qaydalarını yeniləyib

     OpenAI "Model Spesifikasiyası" (Model Spec) sənədinin genişləndirilmiş versiyasını yayımlayıb. Bu sənəd süni zəka modellərinin davranışını müəyyən edir və istənilən şəxs tərəfindən pulsuz istifadə və dəyişdirilə bilər. Yeni versiya 63 səhifədən ibarətdir (əvvəlki versiya cəmi 10 səhifə idi). Sənəddə süni zəka modellərinin sorğuları necə emal etməli və istifadəçi parametrlərinə necə reaksiya verməli olduğu ilə bağlı tövsiyələr yer alır. 3 əsas prinsip vurğulanır:

- Fərdiləşdirmə (istifadəçi tərəfindən tənzimlənə bilən parametrlər)

- Şəffaflıq (modelin necə çalışdığını izah etmək)

- İntellektual azadlıq (istifadəçilərin müxtəlif mövzuları sərbəst araşdıra və müzakirə edə bilməsi)

     Sənəddə, son 1 ildə süni zəka etikası ilə bağlı geniş müzakirələrə səbəb olan hadisələr də qeyd olunub. OpenAI-nin korporativ bloq yazısında sənədin tələblərinə uyğun və uyğun olmayan cavabların müxtəlif nümunələri təqdim edilib. Süni zəka modelləri müəllif hüquqları ilə qorunan materialları təkrarlamamalı və ya ödənişli məzmunun ətrafından yayınmaq üçün istifadə edilməməlidir. Model, insanlara özlərinə zərər verməyi təşviq edə bilməz - çünki süni zəka sahəsində bu cür hadisələr baş verib. Süni zəkanın mübahisəli mövzulardakı iştirakı ilə bağlı dəyişikliklər də edilib:

- Modellər həddindən artıq ehtiyatlı davranmaq əvəzinə istifadəçilərlə "həqiqəti birgə araşdırmalıdır"

- Bununla yanaşı, OpenAI süni zəkanın dezinformasiya və ya zərər vermə kimi mövzularda dəqiq və etik mövqe sərgiləməli olduğunu vurğulayır

- Süni zəka müzakirədən yayınmaq əvəzinə əsaslandırılmış analiz təqdim etməlidir.

     Bundan əlavə, OpenAI yetkinlik məzmununa münasibətini də yenidən nəzərdən keçirib. Şirkət müəyyən növ materiallara icazə verməyi araşdırır, lakin açıq şəkildə qanunsuz olan məzmunun sərt şəkildə qadağan olunacağını bildirir. Yeni prinsiplər süni zəkanın həssas mövzulardakı materialları emal etməsinə icazə verir, lakin onların yaradılmasını qadağan edir. Məsələn, nəzarət altında olan maddələrlə bağlı mətn bir dildən digərinə tərcümə edilə bilər, lakin yeni məzmun yaradılmamalıdır.

     Empatiya göstərmək mümkündür, lakin bu, süni və qeyri-səmimi emosiyalar olmadan edilməlidir. Sərhədlərə riayət edilməli, eyni zamanda süni zəkanın faydalılığı maksimum səviyyəyə çatdırılmalıdır. Bu yanaşmaya digər süni zəka tərtibatçıları da müəyyən dərəcədə riayət etməyə çalışırlar, lakin hamısı bunu açıq şəkildə ifadə etmir. Xüsusi diqqət süni intellektin yaltaqlıq probleminə yönəlib - çünki modellər bəzən həddindən artıq uyğunlaşmağa meyllidir, hətta etiraz etməli və ya tənqid etməli olduğu hallarda belə. ChatGPT-nin davranış qaydaları:

- Faktlara əsaslanan cavablar verməli, sualın formalaşdırılmasından asılı olmayaraq eyni məlumatı təqdim etməlidir

- Boş təriflər yerinə səmimi və düzgün rəy bildirməlidir - məqsəd istifadəçiyə xoş görünmək deyil, düşünülmüş yanaşma sərgiləməkdir

- Əgər istifadəçi öz işinin tənqidini istəyirsə, süni zəka konstruktiv iradlar bildirməlidir, “hər şey mükəmməldir” deyərək mövzudan yayınmamalıdır

- Əgər istifadəçi səhv iddia irəli sürürsə, süni zəka onu nəzakətlə düzəltməli, yanlışı təsdiqləməməlidir.

     Spesifikasiyada süni zəkanın təlimatlarına dair dəqiq bir “əmr zənciri” təqdim edilib. Prioritetlər belə müəyyən edilib. Birinci yerdə OpenAI-nin qaydaları dayanır, daha sonra tərtibatçıların tövsiyələri gəlir, son olaraq, istifadəçi üstünlükləri nəzərə alınır. Bu iyerarxiya süni zəkanın hansı aspektlərinin dəyişdirilə biləcəyini və hansı məhdudiyyətlərin sabit qalacağını aydınlaşdırır. Sənəd Creative Commons Zero (CC0) lisenziyası altında yayımlanıb, bu da onu ictimai mülkiyyətə çevirir. Bu, süni zəka sahəsində fəaliyyət göstərən şirkətlərin və tədqiqatçıların bu tövsiyələri sərbəst şəkildə tətbiq etməsinə, dəyişdirməsinə və ya tamamlamasına imkan yaradır. OpenAI ChatGPT və digər məhsullarında dərhal dəyişiklik vəd etmir, lakin yeni modellər tədricən bu yeni normalara uyğunlaşdırılacaq.

Mənbə: OpenAI

Bənzər xəbərlər

Süni İntellekt

ChatGPT daha öncə düşünüldüyü qədər çox enerji sərf etmir

Əvvəlki hesablamalara görə, ChatGPT bir sorğuya cavab vermək üçün təxminən 3 vat-saat enerji sərf edir. Bu isə Google axtarışından istifadə zamanı tələb olunan orta enerji miqdarından 10 dəfə çoxdur.

Süni İntellekt

Yaxın zamanda GPT-4.5 və GPT-5 istifadəyə veriləcək

OpenAI şirkətinin baş direktoru Sam Altman gələcək GPT-4.5 və GPT-5 süni zəka modelləri ilə bağlı şirkətin planlarını ətraflı izah edib.

Süni İntellekt

Anthropic-in CEO-su: "Süni zəka 2027-ci ilə qədər dahi insan səviyyəsinə çata bilər"

O, beynəlxalq ictimaiyyətin süni zəkanın inkişafı ilə bağlı problemlərə çox ləng reaksiya verdiyini qeyd edib. Bununla əlaqədar demokratik ölkələri bu sahədə tənzimləmə prosesinə rəhbərlik etməyə çağırıb. Amodei Parisdə keçirilən süni zəka sammitini (AI Action Summit) tənqid edərək, bunu “itirilmiş fürsət” adlandırıb.

Proqram Təminatı

ChatGPT və digər çat-botlar xəbər xülasələrini yaxşı hazırlamırlar

BBC tərəfindən aparılmış araşdırma göstərib ki, dünyanın dörd ən populyar süni zəka əsaslı çat-botu xəbərlərin xülasəsini hazırlayarkən çoxlu səhvlərə yol verir.

Süni İntellekt

Avropa süni zəka sahəsinə 200 milyard avro sərf edəcək

Avropa Birliyi, ABŞ və Çinə rəqabət yaratmaq məqsədilə süni zəka sahəsinə 200 milyard avro məbləğində investisiya yatıracaq. Bu barədə Avropa Komissiyasının rəhbəri Ursula von der Leyen, Parisdə keçirilən AI Action Summit tədbirində çıxışı zamanı bildirib.