Tədqiqatçılar OpenAI-nin tibbdə istifadə olunan alətinin yalan söylədiyi barədə xəbərdarlıq ediblər!
Süni İntellekt
29.10.2024
Farid Pardashunas
OpenAI-nin səs aləti Whisper, tibb mərkəzlərində xəstə müsahibələrini transkripsiya etmək üçün geniş istifadə olunur. Ancaq yeni hesabata görə, alət bəzən qeydlərdə olmayan ifadələr və səhv məlumatlar əlavə edə bilir.
Whisper-ın “halüsinasiyalar” adlanan yanlış transkripsiyalarının xüsusilə tibbi kimi yüksək riskli sahələrdə ciddi problemlərə səbəb ola biləcəyi bildirilir. OpenAI bu aləti belə riskli sahələrdə istifadə etməməyə dair xəbərdarlıqlar etmiş olsa da, alətin geniş istifadəsi bu xəbərdarlıqlara baxmayaraq davam edir. Məsələn, bir maşın öyrənmə mühəndisi 100 saatlıq bir yazının yarısında yanlış transkripsiyalara rast gəldiyini bildirərkən, digər bir inkişaf etdirici də analiz etdiyi 26 min transkripsiyanın hamısında oxşar səhvlərin olduğunu qeyd edib. Tədqiqatlar, bu tip səhvlərin dünya üzrə milyonlarla yazıda problem yarada biləcəyini göstərir.
Hətta vəziyyət o qədər ciddidir ki, xüsusən də OpenAI-in Whisper alətini Oracle və Microsoft Cloud kimi böyük platformalarla inteqrasiya etməsi ilə bu risk daha da artır. Dünyada minlərlə istifadəçiyə xidmət göstərən bu bulud xidmətləri, yanlış transkripsiyaların geniş yayılmasına səbəb olub.
Bundan əlavə, Allison Koenecke və Mona Sloane kimi akademiklərin apardığı araşdırmalar göstərir ki, Whisper tərəfindən yaradılan yanlış məlumatların 40%-i zərərli ola bilər. Məsələn, adi bir ifadəni “böyük bir xaç parçası aldı və insanları öldürdü” kimi yanlış şəkildə ifadə etdiyi müşahidə olunub. OpenAI, bu hesabatları nəzərdən keçirib, gələcək yeniləmələrdə bu rəyləri diqqətə alacağını bildirib.
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
Mars üçün "neyromorfik" süni intellekt sınaqdan keçirilir!
Mars üçün "neyromorfik" süni intellekt sınaqdan keçirilir!
Avropa Kosmos Agentliyi (ESA) Mars gəzinti layihəsində neyromorfik süni zəka tətbiq etməyi planlaşdırır. Bu süni zəka sistemi ilə cihaz yalnızca millisaniyələr içində ətrafını anlaya biləcək.
OpenAI şirkəti GPT-4-dən 100 dəfə güclü olacaq süni zəka modelinin təqdimatına hazırlaşır
OpenAI şirkəti GPT-4-dən 100 dəfə güclü olacaq süni zəka modelinin təqdimatına hazırlaşır
OpenAI şirkəti Orion kod adına sahib yeni süni zəka modelini təqdim etməyə hazırlaşır. Bunun ya bu ilin sonuna kimi ya da gələn il baş tutacağı gözlənilir.
14 yaşlı bir uşağın ölümündə süni intellekt günahkar görülüb!
14 yaşlı bir uşağın ölümündə süni intellekt günahkar görülüb!
14 yaşlı bir uşağın intiharında Character.AI-ı günahlandıran ana, süni zəka şirkətinə qarşı məhkəmə iddiası qaldırıb.
Runway, film tarixində cığır açacaq yeni Act-One alətini təqdim edib! (VİDEO)
Runway, film tarixində cığır açacaq yeni Act-One alətini təqdim edib! (VİDEO)
Film dünyasında tarixi bir dönüş nöqtəsinə yaxınlaşılır. Süni intellekt şirkəti Runway, Act-One aləti ilə üz ifadələrini çəkmək və digər personajlara köçürməkdə qeyri-adi uğur nümayiş etdirir.
Süni intellekt artıq heç bir müdaxilə olmadan təkbaşına kompüterləri idarə edə bilir!
Süni intellekt artıq heç bir müdaxilə olmadan təkbaşına kompüterləri idarə edə bilir!
Anthropic-in Claude AI üçün yeni "kompüter istifadəsi" funksiyası tərtibatçıların istifadəsinə verilib. Adından da göründüyü kimi, bu funksiyanın köməyi ilə süni zəka, kompüteri müstəqil şəkildə idarə edə bilir.
Həftənin xəbərləri
GTA 6-nın yeni görüntüləri internetə sızdırılıb!
WhatsApp-dan göndərilən toy dəvətnamələrinə diqqət edin: Telefonunuz ələ keçirilə bilər!