Anthropic: Süni intellekti insan kimi düşünmək bəzən daha təhlükəsizdir

    Technote.az “Mashable” platformasına istinadən bildirir ki, süni intellekt sahəsində uzun illərdir qəbul edilən əsas qaydalardan biri belə idi: süni intellekti insan kimi təsəvvür etməyin. Yəni AI sistemlərinə emosiyalar, niyyətlər və ya “şəxsiyyət” aid etmək düzgün hesab olunmurdu. Lakin Anthropic şirkətinin bu həftə yayımladığı yeni tədqiqat bu yanaşmaya fərqli baxış təqdim edir.

    “Emotion Concepts and their Function in a Large Language Model” adlı araşdırmada Anthropic tədqiqatçıları Claude Sonnet 4.5 modelini 171 fərqli emosiyanın əlamətləri baxımından analiz ediblər. Araşdırmanın nəticəsinə görə, süni intellektin insan kimi davranmasını modelləşdirmək və ona müəyyən “xarakter” vermək bəzi hallarda daha təhlükəsiz və daha effektiv AI sistemləri yaratmağa kömək edə bilər.

    Tədqiqatda qeyd olunur ki, Claude kimi modellər istifadəçilərlə daha yaxşı ünsiyyət qurmaq üçün insan davranışını və emosional reaksiyaları təqlid edir. Tədqiqatçılar bu prosesi bir aktyorun roluna girməsinə bənzədirlər. Yəni model sanki “köməkçi AI” rolunu oynayır və bu rolu nə qədər yaxşı mənimsəsə, istifadəçilə ünsiyyəti də bir o qədər effektiv olur.

    Anthropic-in fikrincə, AI modelləri təlim zamanı hansı davranış və emosional nümunələri öyrənirsə, sonradan da həmin davranışları təqlid etməyə meylli olur. Buna görə də, təlim məlumatlarında müsbət insan davranışları, məsələn, empatiya, soyuqqanlılıq, düzgün sərhəd saxlamaq, stress altında düzgün qərar vermək kimi xüsusiyyətlər daha çox yer alsa, AI modelləri də bu davranışları daha çox təkrarlayacaq. Tədqiqatçılar hesab edir ki, AI modellərinə müəyyən dərəcədə “insan kimi” yanaşmaq onların davranışını daha yaxşı anlamağa kömək edir. Bu isə gələcəkdə daha təhlükəsiz, daha etik və daha faydalı süni intellekt sistemlərinin yaradılmasına səbəb ola bilər.