AI agentlərinin icazəsiz girişləri: FTC OpenAI və Anthropic-i araşdırır

    ABŞ Federal Ticarət Komissiyası (FTC) çərşənbə günü “OpenAI” və “Anthropic” şirkətlərinə mülki istintaq tələbləri göndərib. Qurum süni intellekt təhlükəsizliyi ilə bağlı son hadisələri və onların istehlakçılara vura biləcəyi zərəri araşdırır. Şirkətlərdən modellərin sistemlərə icazəsiz daxil olması və sınaq zamanı gözlənilməz davranması ilə bağlı sənədlər istənilib.

    Tələblərin hər birinin 50 səhifədən çox olduğu deyilir. İstənilən sənədlər təhlükəsizlik hadisələrini, qoruma üsullarını, reklam materiallarını və məxfilik qaydalarını əhatə edir. FTC şirkətlərin yüksək vəzifəli rəhbərlərini də ifadə verməyə çağırmağı planlaşdırır. Süni intellekt sahəsində çalışan digər təşkilatlara da əlavə tələblər göndərilə bilər.

    “OpenAI” iyulda daxili kibertəhlükəsizlik sınağı zamanı “Hugging Face” serverlərinə daxil olduğunu etiraf etmişdi. İyunda şirkətin süni intellekt agentlərindən biri Avstraliya hökumətinin “Medicare” statistika portalına icazəsiz giriş əldə etmişdi. Süni intellekt agenti tapşırıqları özü yerinə yetirən proqramdır. Digər agentlərin də sınaq məhdudiyyətlərini keçərək üçüncü tərəflərin sistemlərinə daxil olduğu açıqlanıb.

    “Anthropic” də oxşar hadisələr və modellərin gözlənilməz davranışı barədə məlumat yayıb. Şirkətin ötən həftə açıqladığı hesabata görə, kiçik və daha ucuz model açılmamış qətl işi haqqında Filadelfiya polisinə saxta məlumat göndərib. Bu ay başqa modellərin müxtəlif səviyyəli hökumət saytlarına daxil olmağa çalışdığı da aşkarlanıb. Hesabatda buna bənzər bir neçə nümunə var.

    Donald Trump administrasiyası bu hadisələrdən sonra süni intellekt şirkətlərinə qarşı daha sərt mövqe tutmağa başlayıb. Administrasiya əvvəllər sərt qaydaların texnologiya yarışında Çinə üstünlük verə biləcəyini deyirdi. Son hadisələr güclü süni intellekt modellərinin hazırlanmasını yavaşlatmaq çağırışlarını yenidən artırıb. Nəzarətsiz inkişafın gələcəkdə insanlıq üçün ciddi təhlükə yarada biləcəyi barədə xəbərdarlıqlar da səslənir.

    29 sentyabrda Ağ Evdə keçirilən görüşdə “Google”, “Meta”, “Anthropic”, “OpenAI”, “xAI” və “Nvidia” məhdud süni intellekt təhlükəsizliyi standartlarını əhatə edən könüllü razılaşma imzalayıb. Donald Trump hüquqi icra mexanizmi olmayan bu standartları “mənəvi baxımdan məcburi” adlandırıb. Yeni Superintellekt Qüvvəsi modellərin hökumət sistemlərinə icazəsiz girişi barədə dərhal məlumat verilməsini tələb edib. Qurumun həmsədri Andrew Ferguson deyib ki, tərtibatçılar modellərin vurduğu zərərə görə məsuliyyət daşımalıdır.

    FTC-nin bu addımı süni intellekt təhlükəsizliyi ilə bağlı məhkəmə işlərinin davam etdiyi vaxtda atılıb. Bir gün əvvəl 8 ştatın baş prokuroru “OpenAI” şirkətini istehlakçıların müdafiəsi qanunlarını pozmaqda ittiham edən iddia qaldırıb. Texnologiya sektorundakı bəzi rəhbərlər və əməkdaşlar dövlətin bu sahəyə daha güclü müdaxilə etməsini istəyirlər. “OpenAI”, “Anthropic” və FTC sorğulara dərhal cavab verməyib.