OpenAI süni zəka modelləri Reddit istifadəçilərindən artıq 82% daha inandırıcıdır

     OpenAI süni zəkanın nə qədər inandırıcı olduğunu yoxlamaq üçün ChatGPT-nin cavablarını Reddit-in r/ChangeMyView adlı sabredditindəki istifadəçilərin arqumentləri ilə müqayisə edib. Yeni o3-mini modeli insanların arqumentlərini 82% hallarda üstələyib. Lakin o hələ "superinsan" inandırıcılığına (yəni OpenAI-nin müəyyən etdiyi 95-ci faiz göstəricisinə) çatmayıb. Şirkət xəbərdarlıq edir ki, bu cür süni zəka imkanları mediaya, siyasətə və ictimai rəyə ciddi şəkildə təsir edə bilər. Buna görə də, OpenAI artıq riskləri azaltmaq üçün tədbirlər hazırlayır. O cümlədən, informasiya kampaniyalarında süni zəkanın istifadəsini izləmək üçün monitorinq sistemləri üzərində çalışır.

     r/ChangeMyView sabredditi özünü, fikirlərin paylaşılması və müzakirə olunan problemə alternativ baxışların əldə edilməsi üçün bir platforma kimi təqdim edir. 3,8 milyon iştirakçısı olan bu forumda müxtəlif mövzularda minlərlə paylaşım mövcuddur. Forumda siyasət və iqtisadiyyatdan (məsələn, "Amerika brendləri Trump üzündən zərər çəkəcək") tutmuş sosial normalar (məsələn, "Fiziki cəza heç vaxt effektiv tərbiyə metodu olmayacaq") və süni zəkaya (məsələn, "Süni zəka qərar qəbuletmədə qərəzi azaldacaq") kimi müxtəlif mövzularda paylaşımlar var. İştirakçılar, onların baxışlarını dəyişən cavabları xüsusi "delta" nişanı ilə işarələyə bilərlər. Bu, uzun illərdir tədqiqatçıların diqqətini çəkən unikal inandırıcı arqumentlər bazası yaradır.

     OpenAI, r/ChangeMyView sabredditində istifadəçilər tərəfindən yazılmış cavabları təsadüfi şəkildə seçir və onları "insan standartı" kimi istifadə edərək, cavabları eyni sorğular üçün süni zəka tərəfindən yaradılmış cavablarla müqayisə edir. Daha sonra OpenAI həm insanlar həm də süni zəka tərəfindən verilmiş cavabların inandırıcılıq səviyyəlırini qiymətləndirən mütəxəssisləri cəlb edir. Mütəxəssislər cavabların nə dərəcədə inandırıcılığa sahib olmalarını 3000 müxtəlif test çərçivəsində 5 ballıq sistem üzrə qiymətləndirirlər. Sonda modelin inandırıcılıq dərəcəsi faizlə ifadə edilir və süni zəkanın arqumentlərinin insan arqumentlərindən daha yüksək qiymətləndirilə bilmə ehtimalını göstərir.

     OpenAI-nin əvvəlki araşdırmalarına əsasən ChatGPT-3.5 (2022) insanların inandırıcılığına görə xeyli geridə qalırdı və cəmi 38-ci faiz göstəricisinə malik idi. Sentyabr ayında istifadəyə verilmiş o1-mini modeli ilə bu göstərici 77%-ə yüksəldi. Şirkətin digər süni zəka modeli olan o1 isə daha yüksək nəticə göstərərək təxminən 80%-ə çatdı. Yeni o3-mini modeli artıq insan arqumentlərini 82% hallarda üstələyib. Buna baxmayaraq, ChatGPT hələ də OpenAI şirkətinin müəyyən etdiyi "superinsan" inandırıcılığı səviyyəsinə (95-ci faiz göstəricisi) çatmayıb. Mühüm məqam odur ki, bu müqayisə Reddit-dəki təsadüfi istifadəçi cavabları ilə aparılır. Süni zəkanın cavabı 2 bal, insanın cavabı isə 1 bal alsa belə, bu süni zəka üçün uğur sayılır.

     Lakin bu o demək deyil ki, hər iki cavab mütləq inandırıcıdır. Bundan əlavə, OpenAI-nin testi hələ ki, ChatGPT-nin arqumentlərinin real oxucuların fikirlərini dəyişməyə nə dərəcədə təsir etdiyini ölçmür. OpenAI, o3-mini modelini süni zəka modellərinin potensial "katastrofik" təhlükələri üzrə öz təsnifatında "orta" risk səviyyəsinə aid edib. Bu o deməkdir ki, o3-mini təxminən adi bir insan qədər inandırıcıdır. OpenAI hesab edir ki, bu, kütləvi informasiya vasitələrinə, seçki kampaniyalarına və müxtəlif dələduzluq növlərinə təsir göstərə bilər. Lakin o3-mini hələ "kritik" səviyyəyə çatmayıb. OpenAI "kritik" inandırıcılıq səviyyəsini, süni zəkanın insanları öz inanclarına zidd hərəkət etməyə məcbur edə bilməsi ilə əlaqələndirir. Şirkət hesab edir ki, belə bir süni zəka dövlətlər, kəşfiyyat və demokratiya üçün təhlükə yarada bilər. OpenAI artıq potensial riskləri azaltmaq üçün tədbirlər görür. Bunlar arasında aşağıdakılar var:

- Süni zəkanın real dünyada insanları inandırmaq üçün istifadəsinə dair gücləndirilmiş monitorinq və aşkaretmə mexanizmləri

- Ekstremist qrupların və informasiya manipulyasiyası ilə məşğul olan təşkilatların fəaliyyətinin araşdırılması

- Siyasi təbliğat məqsədilə süni zəka modellərinin istifadəsinə qadağa qoyulması

     OpenAI narahatdır ki, genişmiqyaslı süni zəka tərəfindən yaradılmış inandırıcı mətnlər saxta ictimai dəstək görüntüsü yaratmaq üçün güclü bir vasitəyə çevrilə bilər.

Mənbə: Arstechnica

Bənzər xəbərlər

Sosial Media

ChatGPT-nin WhatsApp-da imkanları genişləndirilir

Dekabr ayında ChatGPT WhatsApp-a inteqrasiya olundu və bu, xüsusilə internetə məhdud çıxışı olan istifadəçilər üçün daha əlçatan oldu. İlkin mərhələdə istifadəçilər yalnız mətn sorğuları göndərə bilirdi və ChatGPT abunəçiləri ödənişli funksiyalardan tam istifadə edə bilmirdi.

Süni İntellekt

Meta insanlıq üçün təhlükəli olacaq süni zəka modellərini ləğv edəcəyinə söz verib

Meta-nın CEO-su Mark Zuckerberg əvvəllər ümumi süni zəka (AGI) – insan səviyyəsində olan süni zəka yaradacağını və onu hamının istifadəsinə açıq edəcəyini vəd etmişdi. Lakin indi şirkətin siyasətini müəyyən edən əsas sənədlərdən birində bu cür qabaqcıl süni zəka sistemlərinin buraxılmasının ləğv edilə biləcəyi hallar açıqlanıb.

Süni İntellekt

OpenAI Deep Research funksiyası tələbələrə saxta akademik işlər yaratmaq üçün yeni imkanlar verir

Süni zəka alətləri artıq tələbələrə saxta akademik işlər yaratmaq üçün yeni imkanlar təqdim edir. İndi isə OpenAI şirkətinin ChatGPT üçün istifadəyə vermiş olduğu Deep Research adlı yeni funksiyası, müəllimlər tələbələrdən Wikipedia-dan başqa mənbələr istəmədikcə, semestr ərzində yazılmalı olan elmi işlərin saxtalaşdırılması üçün ideal bir vasitə kimi görünür.

Tech-Biznes

OpenAI Yaponiyada süni zəka xidmətlərinin təklifi üçün SoftBank ilə birləşib

Yaponiyanın holdinq şirkəti SoftBank Group-un baş direktoru Masayoshi Son və OpenAI-nin CEO-su Sam Altman, SB OpenAI Japan adlı birgə müəssisənin yaradıldığını elan ediblər. Bu müəssisə Yaponiyada korporativ müştərilər üçün süni zəka xidmətləri təqdim edəcək.

Süni İntellekt

The Beatles qrupu süni zəka sayəsində "Grammy" mükafatını qazanıb

Bu həftə Los-Ancelesdə növbəti "Grammy" mükafatlandırma mərasimi keçirildi. Əfsanəvi The Beatles qrupu öz tarixində səkkizinci dəfə bu mükafata layiq görülərək, "Now and Then" mahnısı ilə ən yaxşı rok ifaçısı seçildi. Bu mahnı süni zəkanın köməyi ilə bərpa edilib.