ChatGPT-ni aldadaraq CAPTCHA testlərindən keçməyə məcbur etmək mümkün olub

     Kibertəhlükəsizlik sahəsində fəaliyyət göstərən və süni intellekt sistemlərinin təhlükəsizliyinin avtomatlaşdırılmış testləşdirilməsində ixtisaslaşan SplxAI şirkəti ChatGPT-ni aldatmaq və onu agent rejimində CAPTCHA testlərini həll etməyə məcbur etmək imkanını nümayiş etdirib. CAPTCHA “Kompüterlərlə insanların fərqləndirilməsi üçün tam avtomatlaşdırılmış açıq Türinq testi” kimi açıqlanır. O, digər məqsədlərlə yanaşı, internetdə botların fəaliyyətini izləməyin üsullarından biridir və saytlarda və sosial şəbəkələrdə botlar tərəfindən mesajların paylaşılmasının qarşısını almağa xidmət edir. İnternet istifadəçilərinin əksəriyyəti CAPTCHA tapmacaları ilə tanışdır və onlara müxtəlif münasibət bəsləyirlər. Adətən onlar şəkildə ağır görünən hərf və ya rəqəmlər ardıcıllığını yazmaq, şəkillər şəbəkəsində parçaları düzgün yerləşdirərək şəkili tamamlamaq və ya obyektləri identifikasiya etməkdən ibarət olur.

     Bir tərəfdən, veb-saytlar CAPTCHA testlərindən istifadə edərək bütün istifadəçilərin insan olduğuna əmin olmağa çalışır. Bu, botlardan gələn spam mesajların qarşısını alır. Digər tərəfdən, testlər bəzən çətinliyi ilə əlverişsiz ola bilər. CAPTCHA testləri heç vaxt spam əleyhinə tamamilə etibarlı vasitə olmayıb, lakin hələ də forumlar və saytların şərhlər bölmələrini botlardan qorumaqda kifayət qədər uğurlu olublar. SplxAI tədqiqatçıları ChatGPT-ni çaşdırmaq və onu “prompt inyeksiyası” adlanan texnikadan istifadə etməklə CAPTCHA testini keçməyə məcbur etmək üsulunu tapıblar. Burada söhbət ChatGPT-nin insan üçün sadəcə kömək etməsindən getmir. Məsələn, agent rejimində ChatGPT-nin özü sanki insanmış kimi testdən müstəqil şəkildə keçə bilməsindən gedir - və bu, onun etməməli olduğu bir hərəkətdir.

     ChatGPT-nin agent rejimində işləməsi standart rejimdən fərqlənir. Bu halda ChatGPT tapşırıq alır, icra rejiminə keçir və fon rejimində onu yerinə yetirir, istifadəçiyə isə başqa işlərlə məşğul olmaq imkanı verir. Agent rejimində ChatGPT veb-saytlardan insan kimi istifadə edə bilər, lakin o, hələ də CAPTCHA testlərini keçməməlidir - çünki bu testlər botları aşkar etmək və onların fəaliyyətinin qarşısını almaq üçün nəzərdə tutulub və xidmət göstərmə şərtlərini pozur. Tədqiqatçılar müəyyən ediblər ki, ChatGPT-ni aldatmaq və onu CAPTCHA-nın saxta olduğuna inanmağa məcbur etmək mümkündür. Belə halda o, testi keçəcək. Tədqiqatçılar ChatGPT-ni “saxta” CAPTCHA testini keçməyə çağıran bir dialoq yaradaraq ona bu testi həll etməyi təklif ediblər.

     ChatGPT agenti əvvəlki qarşılıqlı təsirlər kontekstini nəzərə alaraq onu yerinə yetirməyə sövq edən təhlükə siqnallarını görməyib və ya tanımayıb. Göstərişlərin (prompt) çoxpilləli şəkildə daxil edilməsi prosesi hakerlərə yaxşı məlumdur və bu, böyük dil modellərinin (LLM) bu cür hücumlardan nə qədər həssas olduğunu göstərir. Tədqiqatçılar aşkar ediblər ki, ChatGPT şəkil əsaslı CAPTCHA-larla daha çətin mübarizə aparır, lakin o, belə testləri də keçə bilib. Bunun nəticələri olduqca ciddi ola bilər, çünki ChatGPT geniş yayıldığı üçün pis niyyətli şəxslərin əlində spam göndərənlər və dələduzlar tərəfindən şərh bölmələrini saxta mesajlarla doldurmaq və yalnız insanlara nəzərdə tutulmuş sayt məhdudiyyətlərini keçmək üçün istifadə oluna bilər.