Anthropic-in AI təhlükəsizlik komandasına təzyiqlər artır

    The Verge jurnalisti Hayden Field Anthropic-də çalışan və süni intellektin cəmiyyətə təsirlərini araşdıran “societal impacts” komandasını yaxından izləyib və bu komanda haqqında yeni profil yazısı dərc edib.

    Anthropic-in 2 mindən çox əməkdaşı arasında bu komanda cəmi 9 nəfərdən ibarətdir. Onların işi şirkətin AI modellərinin insan psixologiyasına, əmək bazarına, iqtisadiyyata və seçkilərə mümkün mənfi təsirlərini araşdırmaq və ortaya çıxan “narahatedici həqiqətləri” açıq şəkildə paylaşmaqdır. Lakin bu missiya böyük suallar yaradır: Bu komanda həqiqətən müstəqil qala bilərmi? Çünki araşdırmalar Anthropic-in öz məhsulları haqqında mənfi nəticələr ortaya qoya bilər və bu, şirkət üçün xoşagəlməz ola bilər.

    Bu vəziyyət sosial media şirkətlərində illərdir gördüyümüz bir nümunəyə bənzəyir. Facebook və Instagram kimi platformalarda təhlükəsizlik və moderasiya komandalarına əvvəlcə böyük vəsait ayrılır, sonra isə diqqət zəifləyir və investisiya kəsilir. Araşdırmalar məhsullara real təsir etmir və komanda yavaş-yavaş sıradan çıxarılır. Şirkətin CEO-su Dario Amodei həm ştat, həm də federal səviyyədə AI tənzimlənməsini dəstəkləyən az sayda sənaye liderlərindəndir. Anthropic-in təhlükəsizliyə yönəlik yanaşması OpenAI-dan ayrılan və AI risklərinin ciddiyə alınmadığını düşünən tədqiqatçıların yaratdığı şirkət olması ilə də bağlıdır.