OpenAI yeni Astra modelinin inkişafını təhlükəsizlik risklərinə görə yavaşladıb

    OpenAI hazırladığı yeni süni intellekt modeli Astra ilə bağlı kibertəhlükəsizlik risklərinə görə əlavə təhlükəsizlik tədbirləri görməyə başlayıb. Şirkətin daxili sınaqları modelin proqramlaşdırma və kibertəhlükəsizlik sahəsində ciddi irəliləyiş göstərdiyini üzə çıxarıb. OpenAI bildirir ki, aparılan qiymətləndirmələrdən sonra Astra-nın şirkətin Preparedness Framework sistemində nəzərdə tutulan “Critical” kritik imkan səviyyəsinə çata biləcəyi ehtimalını istisna etmək mümkün olmayıb.

    Bu səviyyə süni intellekt modelinin insan müdaxiləsi olmadan real və yüksək səviyyədə qorunan sistemlərdə işlək “zero-day” boşluqları aşkar edib onlar üçün exploit hazırlaya bilməsi deməkdir. Belə bir model, həmçinin yalnız ümumi məqsəd verildikdə mürəkkəb kiberhücum strategiyasını özü hazırlayıb həyata keçirə bilər. Məhz bu risklərə görə OpenAI Astra üzərində aparılan bəzi daxili işləri müvəqqəti dayandırıb. Yalnız şirkətin tətbiq etdiyi daha sərt təhlükəsizlik tələblərinə cavab verən fəaliyyətlərin davam etdirilməsinə icazə veriləcək. OpenAI, həmçinin modelin təhlükəsizliyinin qiymətləndirilməsi üçün dövlət qurumları və müstəqil üçüncü tərəf mütəxəssislərlə əməkdaşlıq edəcəyini açıqlayıb.

    Bu qərar OpenAI modellərinin Hugging Face adlı açıq mənbəli maşın öyrənməsi platformasına müdaxilə etdiyi bildirilən kibertəhlükəsizlik insidentindən qısa müddət sonra verilib. Bununla belə, OpenAI xüsusi olaraq vurğulayıb ki, Astra hələ ictimaiyyətə təqdim edilməyib və sözügedən Hugging Face insidentində iştirak edən model olmayıb.