Anthropic Claude-un mətnlərinə görünməz su nişanı əlavə edəcək

    Anthropic Claude süni intellektinin yaratdığı mətnlərə əlavə ediləcək yeni “su nişanı” sistemi haqqında ətraflı məlumat yayıb. Şirkət bildirir ki, bu sistem adi istifadəçi üçün görünməyəcək və mətnin keyfiyyətinə təsir etməyəcək, lakin xüsusi alətlər vasitəsilə mətnin Claude tərəfindən yaradılıb-yaradılmadığını müəyyənləşdirmək mümkün olacaq.

    Şirkətin bu addımı Avropa İttifaqının AI Act çərçivəsində qəbul edilən şəffaflıq tələblərinə uyğunlaşmaq məqsədi daşıyır. Qaydalar süni intellekt şirkətlərindən AI tərəfindən yaradılmış məzmunun müəyyən edilməsini mümkün edən texnologiyalardan istifadə etməyi tələb edir. Anthropic-in izahına görə, Claude mətn yaradarkən mənaya ciddi təsir etməyən söz seçimlərindən istifadə edərək mətn daxilində müəyyən statistik nümunə formalaşdıracaq.

    Məsələn, model havanı təsvir edərkən eyni mənaya yaxın bir neçə sözdən birini seçə bilər. Bu seçimlər oxucu üçün tamamilə təbii görünəcək, lakin çoxlu sayda belə seçim bir araya gəldikdə xüsusi açarla aşkarlana bilən nümunə yaranacaq. Başqa sözlə, mətnin içərisində “Claude tərəfindən yazılıb” kimi hər hansı görünən qeyd olmayacaq. Anthropic bunun üçün Google DeepMind tərəfindən 2024-cü ildə təqdim edilən SynthID-Text texnologiyasından istifadə edəcəyini açıqlayıb. Şirkət gələcəkdə su nişanlarını yoxlamaq üçün ayrıca aşkarlama API-si də təqdim etməyi planlaşdırır.