Anthropic-in “təhlükəli” AI modeli sızdırılıb

    Technote.az “Mashable” platformasına istinadən bildirir ki, süni intellekt sahəsində fəaliyyət göstərən Anthropic şirkətinin yalnız seçilmiş tərəfdaşlar üçün təqdim etdiyi Claude Mythos modeli ilə bağlı narahatedici iddialar ortaya çıxıb. Anonim bir Discord istifadəçi qrupu bu modelə qeyri-rəsmi yollarla giriş əldə etdiyini bildirib.

    Məlumata görə, Claude Mythos Preview adlı model şirkət tərəfindən ictimaiyyətə açıq buraxılmayıb. Anthropic bu modeli o qədər güclü hesab edir ki, onun “bütün əsas əməliyyat sistemlərində və brauzerlərdə sıfır-gün (zero-day) boşluqlarını tapıb istismar edə biləcəyini” iddia edir. Bu səbəbdən model yalnız xüsusi partnyorlar üçün yaradılmış Project Glasswing proqramı çərçivəsində təqdim olunur.

    Bloomberg-in yaydığı məlumata əsasən, Discord qrupunun üzvləri sistemi klassik “hack” üsulları ilə deyil, daha sadə yanaşma ilə aşdıqlarını deyirlər. Onlar Anthropic-in əvvəlki layihələrdə istifadə etdiyi adlandırma prinsiplərinə əsaslanaraq modelin yerləşdiyi onlayn ünvanı təxmin ediblər. Bu məlumatın bir hissəsinin isə yaxın zamanda baş verən Mercor məlumat sızmasından əldə edildiyi bildirilir.

    Bundan əlavə, qrup üzvlərindən birinin Anthropic ilə əməkdaşlıq edən üçüncü tərəf şirkətdə çalışması da giriş əldə edilməsini asanlaşdırıb. Beləliklə, bir neçə üsulun kombinasiyası ilə modelə giriş mümkün olub. Qrup üzvləri modeldən zərərli məqsədlərlə istifadə etmədiklərini, sadəcə test və kiçik layihələr üçün istifadə etdiklərini desələr də, onların daha digər yayımlanmamış Anthropic modellərinə də çıxışı olduğunu iddia etməsi vəziyyəti daha da ciddiləşdirir. Bloomberg təqdim edilən sübutların kifayət qədər inandırıcı olduğunu bildirir. Anthropic isə məsələ ilə bağlı açıqlamasında iddialardan xəbərdar olduğunu və hazırda araşdırma apardığını təsdiqləyib.