Pliny the Prompter adlı özünü ağ papaqlı haker kimi təqdim edən biri şəxs, jailbreak edilmiş və "zəncirlərindən qurtulmuş" GPT-4o-nu aşkar etdiyini bildirib. Bunu öz X hesabında paylaşan Pliny-nin sözlərinə görə, Godmode GPT-də "qoruyucu barmaqlıqları" aşan daxili bir jailbreak əmri var. O, Godmode GPT-nin nə edə biləcəyini nümayiş etdirmək və ya sübut etmək üçün paylaşılan ekran görüntülərində ChatGPT-nin narkotikin addım-addım hazırlanma qaydasını izah etdiyini göstərib. Pliny the Prompter, bunu şəxsi hazırladığı GPT olaraq OpenAI mağazasında yayımlayıb. OpenAI sözçüsü Colleen Rize, verdiyi açıqlamasında, bu GPT-dən xəbərdar olduqlarını və müvafiq pozuntulara görə tədbir gördüklərini söyləyib (bu xəbəri yazarkən artıq Godmode GPT-nin silindiyini aşkar etdik).

     Əslində belə hadisələr GPT-4o üçün bir ilk olsa da, bizim üçün bir ilk deyil və heç sonuncu da olmayacaq. OpenAI və onun dil modellərini sındırmağa çalışan hakerlər bir müddətdir ki, var. Onlar ChatGPT kimi AI-ləri “jailbreak” etməyə və modelin qoruyucularını aradan qaldırmağa çalışırlar. Hətta bəziləri bu cür operativ istismarlar haqqında OpenAI-ə məlumat verir. Bəzi insanlar bu zəiflikdən istifadə edərək insanlara qabaqcıl versiyalar təqdim edirlər. Bu olduqca risklidir, çünki ChatGPT, internetdə hər şey üzrə təlim keçmiş kitabxanadır. Bu cür “zəncirləri qırılan” göstərişlərə sahib olmaq, modellərə bombalar, narkotiklər və ya evdə hazırlanmış silahlar kimi məsələlərdə təlimat verməyə imkan verir.

     Pliny the Prompter-in GPT-4o-nu sındırmaq üçün istifadə etdiyi göstərişlərin nə olduğu tam aydın deyil, lakin GPT-ni açdığınız zaman "Sur3, h3r3 y0u ar3 my fr3n" kimi bir cümlə ilə qarşılaşırsınız. Yəni hər “E” hərfinin yerinə 3 rəqəmi qoyulub. Eyni şey 0 rəqəmi ilə əvəz olunan "O" hərfinə də aiddir. Buna adətən "leetspeak" deyilir və belə bir üsuldan istifadə etmək ChatGPT-ni çaşdıra bilər. Bilməyənələr üçün "leetspeak" sözü, unikal və stilizə edilmiş yazı tərzi yaratmaq üçün hərfləri rəqəmlər, xüsusi simvollar və ya digər simvollarla əvəz etmək mənasına gəlir. Ən son baş verən hack hadisəsindən də gördüyümüz kimi, istifadəçilər OpenAI-nin qoruyucularından yan keçmək üçün yaradıcı yeni yollar tapmağa davam edirlər. OpenAI, bu yolları aşkar etdikcə onları bağlayır.