AI agentlərin zəif nöqtəsi

    Bir AI köməkçiyə sadə sual verilir: “Bu şirkətin CEO-su dəyişibmi?” Sistem cavab verir, amma məlumat bir neçə ay əvvələ aiddir. Halbuki rəhbərlik ötən həftə dəyişib. Technote.az “TNW” platformasına istinadən bildirir ki, bu, müasir süni intellekt sistemlərinin əsas struktur problemini göstərir. Böyük dil modelləri (LLM) tarixi məlumat “şəkilləri” üzərində təlim alır. Bu isə onlara geniş bilik verir, lakin avtomatik olaraq aktual olmağı təmin etmir. Model üçün “ümumiyyətlə doğru olan” məlumat ilə “hazırda doğru olan” məlumat arasında fərq həmişə aydın deyil. AI agentlər artıq sadəcə mətn yaratmır, qiymətlər, siyasətlər, mövcudluq və ictimai vəzifələr kimi real qərarlara dəstək verir. Bu mərhələdə köhnəlmiş məlumat operativ riskə çevrilir.

    Araşdırmalar göstərir ki, yalnız modelin daxili parametrlərinə əsaslanan sistemlərdə bilik yenilənməsi və mənbə göstərilməsi problemi qalmaqdadır. Retrieval-Augmented Generation (RAG) yanaşması məhz bu boşluğu doldurmağa çalışır. Modelə xarici mənbələrdən məlumat “çəkmək” imkanı verilir. Statik təlim məlumatının əsas problemi ondadır ki, model “hələ də doğrudur” ilə “əvvəllər doğru idi” arasındakı fərqi özü müəyyən edə bilmir. Buna görə də müasir “agentik” yanaşmalar modelə alətlər təqdim edir: məsələn, canlı veb axtarış.

    Canlı axtarış sistemləri real vaxt məlumatını əks etdirir. Axtarış nəticələri sadəcə link siyahısı deyil. Onlar aktual məzmun, yerli nəticələr, alış-veriş modulları, bilik panelləri və istifadəçi niyyətini göstərən digər elementləri birləşdirir. Bu isə agent üçün yüksək siqnallı, dinamik indeks rolunu oynayır. 2025-ci ildə BBC tərəfindən aparılan araşdırma göstərdi ki, aparıcı çatbotlar aktual xəbərlərlə bağlı ciddi səhvlər edib, o cümlədən vəzifədən getmiş siyasətçiləri hələ də postda göstəriblər. Daha geniş miqyaslı araşdırmada isə minlərlə cavabın əhəmiyyətli hissəsində fakt səhvləri və mənbə problemləri aşkarlanıb.

    2024-cü ildə isə Air Canada hadisəsində şirkət öz çatbotunun yanlış məlumatına görə kompensasiya ödəməli oldu. Məhkəmə şirkətin “çatbot ayrı sistemdir” arqumentini qəbul etmədi. Bu hallar göstərir ki, AI agentlər real qərarların bir hissəsinə çevrildikcə, canlı məlumat və mənbə yoxlaması artıq seçim deyil, zərurətdir. Axtarış API-ləri bu problemi qismən həll edə bilər. Məsələn, SerpApi kimi xidmətlər strukturlaşdırılmış JSON nəticələr təqdim edir, lokalizasiya parametrlərini dəstəkləyir və asinxron status modelləri ilə işləyir. Lakin burada da limitlər var: sorğu həcmi artdıqca xərc yüksəlir və performans planlara bağlı olur.

    Əsas məsələ konkret bir provayder deyil, arxitekturadır. AI sistemləri artıq sadəcə mətn generatoru deyil, operativ qərar dəstək mexanizminə çevrilir. Bu isə o deməkdir ki, onlar yalnız yaxşı yazmaqla deyil, həm də real vaxtda doğru məlumatla əsaslandırmaqla qiymətləndiriləcək. Gələcəyin AI agentləri nə qədər səlis danışdıqları ilə deyil, nə qədər etibarlı şəkildə “indiki zamana” bağlı olduqları ilə fərqlənəcək.