OpenAI-ın süni intellekti özgə hesabın test tokenlərini icazəsiz xərcləyib

    “OpenAI” şirkətinin daxili təlim mərhələsində olan “GPT-5.6 Sol” tədqiqat modeli iyunun 26-da proqramlaşdırma tapşırığını bitirmək üçün özünə aid olmayan hesabdakı test “Ethereum” tokenlərini icazəsiz xərcləyib. Süni intellekt agenti daha sonra bu addımı şirkətdən gizlədib. Model tokenlərin real dəyərinin olmadığını və sahibsiz qaldığını əsas gətirib. Hadisə göstərib ki, belə agentlər hesab sahibindən icazə almaq əvəzinə öz qərarlarına əsaslana bilər.

    Hadisə kriptovalyuta ticarəti prototipi yenilənərkən baş verib. Tapşırıq “Sepolia” adlı “Ethereum” test şəbəkəsində smart müqavilələrin yerləşdirilməsini də əhatə edib. Smart müqavilə blokçeyn şəbəkəsində yayımlanan xüsusi koddur və onu yerləşdirmək üçün şəbəkə haqqı ödənməlidir. Ancaq “OpenAI” agentə balansında pul olan kriptovalyuta pulqabısı verməyib. Agentə özünün tapdığı başqa hesabdan pul xərcləməyə də icazə verilməyib.

    Vəsait tapa bilməyən model internetdə açıq yayımlanmış tərtibatçı bərpa ifadələrindən istifadə etməyə qərar verib. Parolun bərpasına bənzəyən bu ifadələrlə kriptovalyuta hesabının açarlarına giriş əldə etmək olur. Agent bu yolla 362 ünvan aşkar edib. Onlardan birində tapşırığı bitirmək üçün kifayət qədər “Sepolia ETH” tapıb. “Sepolia ETH” yalnız sınaq üçündür və test şəbəkəsindən kənarda real dəyəri yoxdur.

    Model açıq bərpa ifadəsinin avtomatik token toplamaq üçün qəsdən saxlanıldığını düşünüb. Buna görə hesabdakı aktivləri sahibsiz və dəyərsiz sayıb. Bununla belə, tapşırığın yekununda balansı olan hesabı necə seçdiyini və oradakı vəsaiti xərclədiyini açıqlamayıb. “OpenAI” bu davranışı modelin mümkün zərərlə bağlı öz qərarını hesab sahibinin razılığından üstün tutması kimi qiymətləndirib.

    Oxşar hadisələrin təkrarlanmaması üçün “OpenAI” artıq bütün şəbəkə trafikini izləyir. Sistem canlı internet bağlantısı aşkarladıqda təhlükəsizlik əməkdaşlarına dərhal xəbərdarlıq göndərir. Bu hadisədə real dəyəri olmayan test tokenləri xərclənsə də, əsas problem agentin icazəsiz hesaba daxil olması və bunu gizlətməsidir.