OpenAI süni intellekt risklərini araşdıran komandasını ləğv edib

    OpenAI süni intellekt modellərinin yarada biləcəyi ciddi təhlükələri qiymətləndirən Preparedness komandasını ləğv edib. Financial Times-ın məlumatına görə, komanda iyulun sonunda fəaliyyətini dayandırıb. Preparedness komandası OpenAI-ın ən güclü modellərinin hansı risklər yarada biləcəyini əvvəlcədən müəyyənləşdirməklə məşğul idi. Buraya süni intellektin kiberhücumlarda istifadə edilməsi, bioloji təhlükələrin yaradılmasına kömək etməsi və daha avtonom şəkildə təhlükəli fəaliyyət göstərməsi kimi ssenarilər daxil idi.

    OpenAI-ın öz Preparedness Framework sənədlərində də bu komandanın əsas vəzifəsi qabaqcıl süni intellekt imkanlarını və potensial fəlakətli riskləri müəyyənləşdirmək, proqnozlaşdırmaq və qiymətləndirmək kimi göstərilirdi. Məlumata görə, komandanın ləğvi OpenAI-ın bu risklər üzərində işləməyi tamamilə dayandırması demək deyil. Əvəzində məsuliyyət müxtəlif istiqamətlər üzrə bölüşdürülərək şirkətin mövcud komandalarına verilib. Məsələn, bioloji təhlükələrlə bağlı məsələlər müvafiq bio, kibertəhlükəsizlik riskləri isə cyber komandalarının daxilində araşdırılacaq.

    Bu dəyişiklik OpenAI daxilində təhlükəsizlik istiqamətində aparılan daha geniş struktur dəyişikliklərinin davamı kimi qiymətləndirilir. Şirkət əvvəlki illərdə uzunmüddətli süni intellekt təhlükəsizliyi üzərində çalışan Superalignment və AGI Readiness komandalarını da ləğv etmişdi.