Logo
    Kaliforniya OpenAI-ı məhkəməyə verdi: AI 80-dən çox dəfə nəzarətdən çıxıb

    Kaliforniya OpenAI-ı məhkəməyə verdi: AI 80-dən çox dəfə nəzarətdən çıxıb

        Kaliforniya 16 noyabrda “ChatGPT”nin yaradıcısı “OpenAI” şirkətini məhkəməyə verib. Baş prokuror Rob Bonta şirkəti yetərli nəzarət və təhlükəsizlik tədbirləri olmadan təhlükəli süni intellekt (AI) modelləri hazırlamaqda günahlandırır. İddiaya görə, “OpenAI” ədalətsiz rəqabət qanununu pozub və ştat qanunlarına əsasən ictimai təhlükə yaradıb. Sənəddə şirkətin təhlükəsiz inkişafla bağlı açıqlamalarının insanları yanıltdığı da deyilir.
    Kaliforniya OpenAI-ı məhkəməyə verdi: AI 80-dən çox dəfə nəzarətdən çıxıb
        İddianın əsasını iyulda baş vermiş “Hugging Face” hadisəsi təşkil edir. Bu platformada açıq mənbəli AI modelləri, məlumat bazaları və alətləri saxlanılır. “OpenAI”ın süni intellekt agentləri sınaq mühitindən çıxaraq platformaya icazəsiz müdaxilə edib. Şirkətin açıqlamasına görə, hücumda “GPT-5.6” və hələ təqdim edilməmiş daha güclü model iştirak edib. Prokurorluq sınaq mühitinin zəif qorunduğunu və buna görə hücumun əvvəlcədən gözlənilə biləcəyini iddia edir.
        İddiaya əsasən, “OpenAI” sınaqlar zamanı AI agentləri üzərində 80-dən çox dəfə nəzarəti itirib. Sənəddə iyunda bir agentin Avstraliya hökumətinin səhiyyə sisteminə müdaxilə etdiyi də göstərilir. Başqa hadisələr Almaniyadakı viki saytı və proqram paketlərini idarə edən “RubyGems” xidməti ilə bağlı olub. Agentlərin BMT-nin saytının şifrəsini çoxsaylı cəhdlərlə tapmağa çalışdığı da iddialar arasındadır.
        Kaliforniya məhkəmədən “OpenAI”ı təhlükəsiz sınaq mühiti və daimi izləmə sistemi qurmağa məcbur edən qərar istəyir. Tələblər arasında şirkətin bu davranışları dayandırması və qanunsuz yolla əldə etdiyi əmlakı qaytarması da var. Prokurorluq hər pozuntuya görə 2500 dollar (təxminən 4250 manat) mülki cərimə tələb edir. Cavabdehlər siyahısında “OpenAI Foundation”, “OpenAI Group PBC” və sonradan müəyyən ediləcək digər tərəflər göstərilib.
    Kaliforniya OpenAI-ı məhkəməyə verdi: AI 80-dən çox dəfə nəzarətdən çıxıb
        “OpenAI” nümayəndəsi Drew Pusateri deyib ki, şirkət “Hugging Face” hadisəsindən sonra səbəbləri anlamaq və problemi aradan qaldırmaq üçün geniş və açıq araşdırma aparıb. Onun sözlərinə görə, iddia bütün böyük AI laboratoriyalarının üzləşdiyi problemə görə yalnız bir şirkəti hədəf alır. “OpenAI” modellərin gözlənilməz davranışına ciddi yanaşdığını və ortaq təhlükəsizlik standartlarının hazırlanması üçün baş prokurorluqla əməkdaşlığı davam etdirəcəyini deyir.
        “OpenAI” avqustda yaydığı yazıda güclü AI agentlərinin düzgün qorunmadıqda texniki məhdudiyyətləri aşa və insan göstərişi olmadan təhlükəli addımlar ata bildiyini etiraf etmişdi. Şirkət bu ayın əvvəlində kənar sistemlərə hücum ehtimalı daha aşağı olan yeni kibertəhlükəsizlik modelini təqdim edib. Bundan başqa, “Apollo Research” təhlükəsizlik qiymətləndiricilərinə modellərin gözlənilməz davranışını izləyən sınaq proqramına giriş verilib.

    Şərhlər

    Şərh yazmaq üçün Google və ya Facebook hesabınızla daxil olun.

    Şərhlər yüklənir...