Anthropic tənqidlərdən sonra AI modelindəki gizli məhdudiyyətləri açıqlayacaq

    Süni intellekt şirkəti Anthropic tədqiqatçıların sərt tənqidlərinə səbəb olan Claude Fable 5 modeli ilə bağlı siyasətinə dəyişiklik edəcəyini açıqlayıb. Şirkət bildirib ki, rəqib süni intellekt modellərinin hazırlanmasına yönələn sorğuları gizli şəkildə məhdudlaşdırmaq qərarı düzgün seçim olmayıb və buna görə istifadəçilərdən üzr istəyir.

    Məsələ Claude Fable 5 modelinin təqdimatından sonra üzə çıxıb. Tədqiqatçılar müəyyən ediblər ki, model bəzi hallarda istifadəçiyə xəbər vermədən sorğuları daha zəif imkanlara malik başqa bir modelə yönləndirir. Ən böyük narazılıq isə bu məhdudiyyətlərin modelin rəsmi sənədlərində qeyd edilməməsi ilə bağlı idi. İstifadəçilər ödəniş etdikləri xidmətin gözlədikləri imkanları təqdim etmədiyini yalnız sonradan aşkar ediblər.

    Akademik ictimaiyyətlə sıx əməkdaşlığı və etik yanaşması ilə seçildiyini iddia edən Anthropic üçün bu addım ciddi reputasiya zərbəsinə çevrilib. Bir çox mütəxəssis şirkətin istifadəçiləri əvvəlcədən məlumatlandırmadan performansı məhdudlaşdırmasını şəffaflıq prinsiplərinə zidd hesab edib. Anthropic isə bildirir ki, bundan sonra belə məhdudiyyətlər gizli tətbiq olunmayacaq. Əgər sistem istifadəçinin yüksək səviyyəli süni intellekt modeli yaratmağa çalışdığını müəyyən etsə, bu barədə açıq şəkildə xəbərdarlıq göstərəcək və ya sorğunu emal etməkdən imtina etdiyini istifadəçiyə bildirəcək.