main-post-cover

    Tədqiqatçılar OpenAI-nin tibbdə istifadə olunan alətinin yalan söylədiyi barədə xəbərdarlıq ediblər!

    Süni İntellekt
    29.10.2024
    Farid Pardashunas

         OpenAI-nin səs aləti Whisper, tibb mərkəzlərində xəstə müsahibələrini transkripsiya etmək üçün geniş istifadə olunur. Ancaq yeni hesabata görə, alət bəzən qeydlərdə olmayan ifadələr və səhv məlumatlar əlavə edə bilir.

         Whisper-ın “halüsinasiyalar” adlanan yanlış transkripsiyalarının xüsusilə tibbi kimi yüksək riskli sahələrdə ciddi problemlərə səbəb ola biləcəyi bildirilir. OpenAI bu aləti belə riskli sahələrdə istifadə etməməyə dair xəbərdarlıqlar etmiş olsa da, alətin geniş istifadəsi bu xəbərdarlıqlara baxmayaraq davam edir. Məsələn, bir maşın öyrənmə mühəndisi 100 saatlıq bir yazının yarısında yanlış transkripsiyalara rast gəldiyini bildirərkən, digər bir inkişaf etdirici də analiz etdiyi 26 min transkripsiyanın hamısında oxşar səhvlərin olduğunu qeyd edib. Tədqiqatlar, bu tip səhvlərin dünya üzrə milyonlarla yazıda problem yarada biləcəyini göstərir.
         Hətta vəziyyət o qədər ciddidir ki, xüsusən də OpenAI-in Whisper alətini OracleMicrosoft Cloud kimi böyük platformalarla inteqrasiya etməsi ilə bu risk daha da artır. Dünyada minlərlə istifadəçiyə xidmət göstərən bu bulud xidmətləri, yanlış transkripsiyaların geniş yayılmasına səbəb olub.
         Bundan əlavə, Allison Koenecke Mona Sloane kimi akademiklərin apardığı araşdırmalar göstərir ki, Whisper tərəfindən yaradılan yanlış məlumatların 40%-i zərərli ola bilər. Məsələn, adi bir ifadəni “böyük bir xaç parçası aldı və insanları öldürdü” kimi yanlış şəkildə ifadə etdiyi müşahidə olunub. OpenAI, bu hesabatları nəzərdən keçirib, gələcək yeniləmələrdə bu rəyləri diqqətə alacağını bildirib.
    Linki kopyala

    Bənzər xəbərlər

    Oxşar xəbərlər
    Mars üçün "neyromorfik" süni intellekt sınaqdan keçirilir!
    mars-ucun-neyromorfik-suni-intellekt-sinaqdan-kecirilir
    OpenAI şirkəti GPT-4-dən 100 dəfə güclü olacaq süni zəka modelinin təqdimatına hazırlaşır
    openai-sirketi-gpt-4-den-100-defe-guclu-olacaq-suni-zeka-modelinin-teqdimatina-hazirlasir
    14 yaşlı bir uşağın ölümündə süni intellekt günahkar görülüb!
    14-yasli-bir-usagin-olumunde-suni-intellekt-gunahkar-gorulub
    Runway, film tarixində cığır açacaq yeni Act-One alətini təqdim edib! (VİDEO)
    runway-film-tarixinde-cigir-acacaq-yeni-act-one-aletini-teqdim-edib-video
    Süni intellekt artıq heç bir müdaxilə olmadan təkbaşına kompüterləri idarə edə bilir!
    suni-intellekt-artiq-hec-bir-mudaxile-olmadan-tekbasina-komputerleri-idare-ede-bilir