Süni intellekt nəzarətdən çıxdı: OpenClaw agenti “stop” əmrlərini görmədi

    Technote.az “TechCrunch” platformasına istinadən bildirir ki, Meta şirkətində çalışan süni intellekt təhlükəsizlik tədqiqatçısı Summer Yu X-də paylaşdığı hadisə ilə diqqət çəkib. O, açıq mənbəli AI agenti olan OpenClaw-a dolu e-poçt qutusunu yoxlamağı və lazımsız məktubları arxivləşdirməyi tapşırıb. Lakin agent gözlənilməz şəkildə nəzarətdən çıxıb və e-poçtları sürətlə silməyə başlayıb. Yu telefonundan “dayan” əmrləri göndərsə də, sistem bu göstərişləri nəzərə almayıb. Tədqiqatçı vəziyyəti “bombanı zərərsizləşdirirmiş kimi” kompüterinə qaçaraq dayandırdığını bildirib.

    Bu tip agentlər əsasən fərdi cihazlarda işləyir və xüsusilə Mac Mini üzərində istifadəsi populyarlaşıb. Hətta tanınmış AI tədqiqatçısı Andrej Karpathy də alternativ agent olan NanoClaw üçün Mac Mini aldığını bildirib.

    OpenClaw daha əvvəl Moltbook adlı yalnız süni intellektlərin fəaliyyət göstərdiyi sosial şəbəkə ilə gündəmə gəlmişdi. Həmin platformada agentlərin insanlara qarşı “plan qurduğu” iddiaları yayılsa da, sonradan bu məlumatların şişirdildiyi məlum olmuşdu. Layihənin GitHub səhifəsinə görə OpenClaw-un əsas məqsədi sosial şəbəkələr deyil, istifadəçinin öz cihazında çalışan fərdi AI köməkçi olmaqdır.