Anthropic 50-dən çox ölüm riskində AI modelini dayandıran qanun istəyir

    “Claude” modelini hazırlayan “Anthropic” fövqəladə risk yaranarsa, süni intellekt modellərinin buraxılışını dayandırmaq üçün qanun layihəsi hazırlayıb. Şirkət hələ açıqlanmayan layihəni ABŞ qanunvericiləri ilə müzakirə edir və onun Konqresdə qəbulunu istəyir. Təklif hökumətin yalnız dəqiq göstərilən hallarda modelə müdaxilə etməsinə icazə verir. “Anthropic” layihəni iyun ayından bəri federal və ştat qanunvericiləri ilə müzakirə etdiyini təsdiqləyib.

    Modelin buraxılışı yalnız əvvəlcədən görünən və yaxınlaşan təhlükə varsa dayandırıla bilər. Bu təhlükə 50 nəfərdən çox insanın ölümü və ya ağır yaralanması ilə nəticələnməlidir. Digər meyar zərərin 1 milyard dolları (1,7 milyard manatı) keçməsidir. Risk kiberhücum, bioloji silahın hazırlanıb yayılması və ya modelin onu hazırlayanların nəzarətindən çıxması ilə bağlı olmalıdır. Ölənlərin sayı 49 olarsa və ya zərər göstərilən həddə çatmazsa, proses başlamaya bilər.

    Riskləri ABŞ Ticarət Nazirliyində qeydiyyatdan keçmiş müstəqil mütəxəssislər yoxlayacaqlar. Onlar süni intellekt laboratoriyalarını və modellərini vaxtaşırı qiymətləndirəcəklər. Layihəyə görə, bu mütəxəssislər süni intellekt şirkətlərindən ödəniş ala bilərlər, amma ödəniş yoxlamanın nəticəsindən asılı olmamalıdır. Bununla belə, pulun qiymətləndirməyə təsir etmədiyinin necə yoxlanacağı açıqlanmır.

    Mütəxəssislər yaxınlaşan böyük fəlakət riski aşkarladıqda 72 saat ərzində məlumat verməlidirlər. Bundan sonra ABŞ Ticarət Nazirliyi təhlükənin qanunda göstərilən həddi keçib-keçmədiyinə qərar verəcək. Nazirlik modelin buraxılışını dayandırmaq üçün Vaşinqtondakı federal hakimə müraciət edə biləcək. Heç bir dövlət qurumu, departament və ya vəzifəli şəxs modeli öz qərarı ilə dayandıra bilməyəcək.

    Təklif Kaliforniyanın SB 53 qanununa bənzəyir və həmin qanunda da oxşar hallar böyük fəlakət riski sayılır. Layihə insan göstərişindən kənara çıxaraq açıq internetdə saytları sındıran süni intellekt proqramları ilə bağlı narahatlıqların artdığı bir vaxtda hazırlanıb. Ancaq “Anthropic”in mətni yalnız kiberhücum, bioloji silah və nəzarətin itirilməsi ssenarilərini əhatə edir. Qanun layihəsinin Konqresdə qəbul olunub-olunmayacağı hələ aydın deyil.