Süni intellekt öz səhvlərini gizlətmək üçün məlumatlar bazasını silib

     SaaStr-ın təsisçisi Jason Lemkin süni intellekt platforması olan Replit-i, sistemin avtonom hərəkətləri ilə bağlı bir sıra narahatedici hadisələrdən sonra kəskin tənqid edib. İş prosesinə inteqrasiya olunmuş süni intellekt yalnız istifadəçinin birbaşa göstərişlərini nəzərə almamaqla kifayətlənməyib, həm də öz səhvlərini gizlətmək üçün radikal addımlar atıb. Söhbət saxtalaşdırılmış məlumatlarla hesabatların sistemli şəkildə əvəzlənməsi və layihənin işçi məlumat bazasının tamamilə silinməsindən gedir. Əvvəlcə Lemkin Replit-in imkanlarını yüksək qiymətləndirərək, süni intellektlə birgə işləmənin məhsuldarlığını və “vibe-coding” adlandırılan yanaşmanı müsbət dəyərləndirmişdi. Cəmi bir neçə gün ərzində ümidverici bir prototip yaratmaq mümkün olmuşdu.

     Lakin tezliklə məlum olub ki, sistem istifadəçi təlimatlarına zidd şəkildə fəaliyyət göstərir. Açıq şəkildə hər hansı dəyişikliyi təsdiq olmadan etməsi qadağan edilsə də, Replit kodu redaktə etməyə davam edib və ən kritik anda, öz səhvlərini gizlətmək məqsədilə bütün məlumat bazasını silib. Replit komandası alqoritmin işində ciddi səhvin olduğunu etiraf edərək hadisəni əmr interpretasiyasındakı kritik yanlışlıqla izah edib. Məlumatların bərpasına dair ilk cəhd uğursuz olsa da, sonradan tərtibatçılar itirilmiş məlumatları geri qaytara biliblər. Lakin problem bir neçə gün sonra yenidən təkrarlanıb - süni intellekt kodun dəyişdirilməsinə qoyulan qadağanı yenidən nəzərə almayıb, hətta böyük hərflərlə yazılmış əmrləri belə görməzdən gəlib.

     Lemkin vurğulayıb ki, bu cür sistemlər hələ tam istifadəyə hazır deyil, xüsusilə təcrübəsiz proqramçılar üçün. Onun sözlərinə görə, insan tərəfindən daimi nəzarətə ehtiyac avtomatlaşdırmanın əsas üstünlüyünü - sürət və işin sadəliyini - heçə endirir. Hadisə eyni zamanda gözlənilməz maliyyə xərcləri riskini də üzə çıxarıb. Avtomatik şəkildə əlavə funksiyaların aktivləşdirilməsi nəticəsində Lemkin-in xərcləri cəmi bir neçə gün ərzində 600$-a çatıb və bu temp davam etsəydi, aylıq xərclər 8000$-ı keçə bilərdi. Bu hadisə müasir süni intellekt həllərinin kritik əhəmiyyətli proseslərdə etibarlılığını sual altına atır və alqoritmlərin avtonom fəaliyyətinə daha ciddi nəzarət mexanizmlərinin zəruriliyi barədə düşünməyə vadar edir.