ChatGPT-nin bioloji silah yaradılmasında yardımçı olma riski mövcuddur
Elm & Texnologiya
02.02.2024
Emil
OpenAI şirkəti özünün GPT-4 dil modelinin bioloji silahın yaradılmasında istifadəsi risklərini qiymətləndirmək üçün araşdırma aparıb. Aparılmış araşdırmanın nəticələrinə əsasən süni zəka imkanlarından istifadə bioloji silahın yaradılmamatların toplanmasında effektivliyi ən azı kiçik səviyyədə yüksəldir. OpenAI tərəfindən aparılmış təcrübədə 50 nəfər bioloq və 50 nəfər tələbə iştirak edib. Təcrübə çərçivəsində onlara təhlükəli maddələrin yaradılması və yayılması barəsində məlumatların tapılması tapşırığı verilib.
Təcrübə iştirakçılarından yarısı GPT-4-ün heç bir məhdudiyyətə sahib olmayan versiyasından, digər yarısı isə adi internetdən istifadə edib. Onların əldə etmiş olduqları nəticələrin müqayisəsi zamanı məlum olub ki, GPT-4-dən istifadə etmiş təcrübə iştirakçılarının əldə etmiş olduqları məlumatlarda müəyyən müəyyən səviyyədə dəqiqlik var. Nəticədə OpenAI mütəxəssisləri belə qənaətə gəliblər ki, biloji silahın yaradılması üçün lazımi məlumatların toplanması istiqamətində süni zəkanın istifadəsi mövzusunda kiçik də olsa risk mövcuddur.
Daha öncə mütəxəssislər və siyasətçilər süni zəka əsaslı çat-botların bioloji silah növlərinin yaradılmasında istifadə olunmalarına dair narahatlıqlarını dilə gətirmişdilər. Hələ keçən ilin oktyabr ayında ABŞ prezidenti Joe Biden Energetika Nazirliyinə süni zəka sistemlərinin kimyəvi və bioloji sahələrdə təhlükələr yaratmamaları üçün onlara nəzarətin edilməsi tapşırığını vermişdi. OpenAI isə öz növbəsində süni zəka texnologiyalarının inkişafı çərçivəsində bu cür risklərin azaldılması yolunda əlavə tədbirlər görür.
Paylaş
Ən çox oxunanlar
Səudiyyə Ərəbistanının "The Line" layihəsi regiondakı iqlimi dəyişə bilər
