Signal-ın qurucusu süni intellektdə məxfilik probleminə diqqət çəkir

    Technote.az “Gizmodo” platformasına istinadən bildirir ki, Signal platformasının qurucusu Moxie Marlinspike süni intellekt dünyasında artan məxfilik problemlərinə diqqət çəkərək yeni açıq mənbəli və tam uçdan-uca şifrələnmiş AI çatbotu üzərində çalışdığını açıqlayıb.

    Marlinspike-in təqdim etdiyi Confer adlı çatbot istifadəçilərin həm sorğularını, həm də cavablarını şifrələyir. Bu isə o deməkdir ki, şirkətlər, reklamçılar və ya üçüncü tərəflər istifadəçi məlumatlarına çıxış əldə edə bilmirlər. Bir neçə bloq yazısında Marlinspike böyük dil modellərinin (LLM) potensialını yüksək qiymətləndirdiyini desə də, hazırkı AI platformalarının məxfilik baxımından ciddi risklər daşıdığını vurğulayır. Onun sözlərinə görə, ChatGPT və Claude kimi çatbotlar istifadəçiyə özəl gündəlik və ya təhlükəsiz söhbət təəssüratı yaratsa da, əslində bu məlumatlar platforma sahibləri tərəfindən görülə və bəzən model təlimində istifadə oluna bilər.

    Marlinspike bildirir ki, əgər bir çatbot insanlara özəl söhbət hissi verirsə, texniki olaraq da bu məxfiliyi təmin etməlidir. O, LLM-ləri “etirafa təşviq edən ilk böyük texnoloji mühit” adlandırır və insanların bu sistemlərlə ünsiyyətdə düşüncə tərzlərini, tərəddüdlərini və daxili fikirlərini paylaşdığını qeyd edir. Onun fikrincə, gələcəkdə bu cür məlumatlar reklamçılar tərəfindən istifadəçilərin davranışlarını yönləndirmək və manipulyasiya etmək üçün istifadə oluna bilər.

    Giriş üçün ənənəvi parollar əvəzinə Face ID, Touch ID və ya cihazın PIN kodu kimi passkey texnologiyalarından istifadə olunur. Bundan əlavə, sistem “attestation” adlı kriptoqrafik sübut mexanizmi ilə istifadəçiyə prosesin düzgün və təhlükəsiz işlədiyini təsdiqləyir.