Süni zəka əsaslı axtarış sistemləri xəbər mənbələri baxımından yanlış məlumatlar verirlər

Süni İntellekt

14.03.2025

Emil

Generativ süni zəka modelinə əsaslanan 8 axtarış xidməti xəbər mənbələri ilə işləməkdə ciddi problemlər nümayiş etdirib. Bu, Columbia Journalism Review nəşrinin Rəqəmsal Jurnalistika Mərkəzi tərəfindən aparılmış araşdırmanın nəticələrindən məlum olub. Süni zəka əsaslı axtarış sistemləri xəbər mənbələri ilə bağlı sorğulara 60%-dən çox hallarda səhv cavablar veriblər. Araşdırma müəlliflərinin qeyd etdiyinə görə, hər dördüncü amerikalı artıq süni zəkadan ənənəvi axtarış sistemlərinə alternativ kimi istifadə edir. Lakin yüksək səhv nisbəti süni zəkanın etibarlılığı ilə bağlı ciddi narahatlıqlar yaradır. Müxtəlif platformalar fərqli səhv göstəricilərinə malik olub:

- Perplexity 37% hallarda yanlış məlumat verib.

- ChatGPT Search isə sorğuların 67%-ində xəbər mənbələrini səhv müəyyənləşdirib.

- Ən yüksək səhv nisbəti 94% ilə Grok 3 adlı çat-botda qeydə alınıb.

Test zamanı tədqiqatçılar süni zəka xidmətlərinə həqiqi xəbər məqalələrindən fraqmentlər yükləyib, başlıq, mənbə, ilkin nəşriyyat, dərc tarixi və URL ünvanını müəyyən etməyi istədilər. Bütün modellərdə ümumi bir xüsusiyyət aşkarlandı. Onlar etibarlı məlumat olmadıqda cavab verməkdən imtina etmirdilər, əksinə, inandırıcı, lakin qeyri-dəqiq cavablar verirdilər. Maraqlıdır ki, ödənişli modellər bəzi hallarda daha da zəif nəticə göstərib. Perplexity Pro (ayda 20$) və pullu Grok-3 (ayda 40$) pulsuz versiyalardan daha çox səhv cavab verib. Onlar daha çox sorğuya düzgün cavab verirdilər, lakin etibarlı məlumat olmadıqda da cavab verməyə davam etdikləri üçün ümumi səhv sayı daha yüksək olub.

Tədqiqatçılar həmçinin təsdiqlədilər ki, bəzi süni zəka platformaları veb-skanerlərə giriş qadağan edən direktivləri görməzlikdən gəlir. Pulsuz Perplexity National Geographic-in məqalələrindən 10 fraqmenti düzgün müəyyən edib, baxmayaraq ki, nəşr bu xidmətin veb-saytına daxil olmasını açıq şəkildə qadağan etmişdi. Süni zəka əsaslı axtarış sistemləri tez-tez orijinal xəbər saytlarına deyil, Yahoo News kimi xəbər aqreqatorlarına istinad edirdi. Bu, hətta nəşriyyatlarla və süni zəka sistemlərinin tərtibatçıları ilə rəsmi lisenziya müqavilələri olduğu hallarda da baş verirdi. Google Gemini və Grok-3 ilə aparılmış söhbətlərin yarıdan çoxunda verilən linklər ya uydurma, ya da işləməyən URL-lər idi.

Grok-un 200 linkindən 154-ü mövcud olmayan və ya işləməyən ünvanlara çıxış verirdi. Bu problemlər nəşriyyatları çətin seçim qarşısında qoyur. Veb-skanerləri bloklamaq süni zəka əsaslı axtarış sistemlərinin problemlərini daha da dərinləşdirəcək. Onlara tam giriş imkanı vermək isə istifadəçilərin birbaşa xəbər saytlarını ziyarət etməsinə mane olacaq, çünki istifadəçilər lazım olan məlumatı yalnız süni zəka çat-botlarından alıb kifayətlənəcəklər. Time jurnalının baş əməliyyat direktoru Mark Howard ümid edir ki, süni zəka xidmətlərinin tərtibatçıları gələcəkdə bu sahəyə daha çox sərmayə yatıraraq xidmətlərin keyfiyyətini artıracaqlar.

O, istifadəçilərə süni zəkanın cavablarına hədsiz güvənməməyi tövsiyə edib. OpenAI və Microsoft təsdiqləyiblər ki, onların sistemləri bu cür səhvlərə yol verə bilər. OpenAI nəşriyyatları dəstəkləyəcəyini və istifadəçiləri onların veb-saytlarına yönləndirəcəyini vəd edib. Bunun üçün məqalə xülasələri, sitatlar və düzgün linklər təqdim ediləcək. Microsoft isə bildirib ki, onun veb-skanerləri nəşriyyatların təyin etdiyi direktivlərə riayət edir.

Mənbə: Ars Technica

Paylaş

chatgpt search

chatgpt

grok 3

artificial intelligence

perplexity

Bənzər xəbərlər