Baseten 3 şirkətlə açıq AI modelləri üçün təhlükəsizlik sistemi…

    “Baseten” 16 sentyabrda “Base Labs”, “Hugging Face” və “Goodfire AI” ilə yeni tərəfdaşlıq elan edib. Şirkətlər parametrləri yüklənib dəyişdirilə bilən açıq süni intellekt modelləri üçün təhlükəsizlik yoxlaması və daimi izləmə sistemi hazırlayacaqlar. Məqsəd təhlükəsizlik tədbirlərini modelə sonradan əlavə etmək yox, onları əvvəldən modelin daxilində qurmaqdır.

    Təşəbbüs açıq modellərdəki qoruyucu mexanizmlərin asanlıqla silinməsi ilə bağlı narahatlıqların artdığı vaxt başlayıb. “Abliteration” adlanan üsulla modelin təhlükəli sorğulara cavab verməsinə mane olan məhdudiyyətləri aradan qaldırmaq olur. “Hugging Face” platformasında hazırda 6000-dən çox belə model var. Tərəfdaşlar problemi həm modelin öyrədilməsi, həm də işlədilməsi zamanı aşkarlamaq istəyirlər.

    “Baseten”in ilin əvvəlində yaratdığı “Base Labs” açıq modellərin öyrədilməsi və izlənməsi üçün üsullar hazırlayıb yayımlayacaq. Hər kəs üçün açıq olacaq bu üsullar modelin işə salınması prosesinə də daxil ediləcək. Şirkətə görə, açıq yanaşma modellərin davranışını daha yaxşı izləməyə kömək edir. Digər əsas məqsəd təhlükəsizlik araşdırmalarını real şəraitdə işləyən və nəticələri yoxlanıla bilən nəzarət alətlərinə çevirməkdir.

    Tərəfdaşlığın texniki tərəfləri hələ açıqlanmayıb. “Goodfire AI” süni intellekt modellərinin qərarları necə verdiyini izah edən texnologiyalar hazırlayır. Buna görə təhlükəsizlik mexanizmlərinin modelin daxilində qurulmasında şirkətin əsas rol oynayacağı gözlənilir. “Hugging Face” platformasında da açıq modelləri saxlamaq və tərtibatçılara çatdırmaq olur.

    “Baseten” iyunda F seriyası investisiya raundunda 1,5 milyard dollar (təxminən 2,55 milyard manat) cəlb edib. Ardınca şirkətin dəyəri 13 milyard dollara (təxminən 22,1 milyard manat) yüksəlib. “Goodfire AI” də ilin əvvəlində 150 milyon dollar (təxminən 255 milyon manat) investisiya alıb. “Baseten” digər tərtibatçıları yeni təhlükəsizlik standartının hazırlanmasına qoşulmağa çağırıb.