main-post-cover

    Apple öz smartfonlarında böyük dil modellərinin işə salınması üsulu üzərində çalışır

    Elm & Texnologiya
    26.12.2023
    Emil Nəcəfov
         Böyük dil modelləri böyük həcmdə yaddaş və hesablama resurslarını tələb edirlər. Buna görə də onları mobil cihazlarda işə salmaq qəlizdir. Apple mühəndislərinin aparmış olduqları tədqiqata əsasən böyük dil modellərini fləş yaddaşın istifadəsi ilə işə salmaq daha effektivlidir. Gözləntilərə əsasən Apple bu texnologiyanı öz generativ süni zəka sisteminin iPhone-larda işə salınması üçün istifadə edəcək. Apple mühəndislərinin sözlərinə əsasən məhdud həcmdə resursa sahib cihazlarda böyük dil modellərini fləş yaddaşın istifadəsi ilə işə salmaq daha çox sərf edir. Bununla yanaşı fləş yaddaş mobil cihazlarda tez-tez istifadə olunur. Bununla yanaşı Apple mühəndisləri mobil cihazlarda böyük dil modellərinin istifadə edə biləcəkləri əlavə əməliyyatların sayını azaltmağa və fləş yaddaşın performansını artırmağa hədəflənmiş iki qaydanı təqdim ediblər.
    - Böyük dil modeli hər dəfə yeni məlumatları yükləmək əvəzinə artıq emal edilmiş məlumatları təkrar olaraq istifadə etməlidir
    - Məlumatlar elə şəkildə qruplaşdırılmalıdır ki, onları böyük fraqmentlər şəkildə oxumaq mümkün olsun. Bu, neyron şəbəkəsinin işini sürətləndirməyə hədəflənib.
         Aparılmış tədqiqata əsasən bu üsul sayəsində süni zəka modeli CPU-da 4-5 dəfə, GPU-da isə 20-25 dəfə daha sürətli çalışa bilir.
     
    Linki kopyala

    Bənzər xəbərlər

    Oxşar xəbərlər
    Apple Vision Pro üçün nəzərdə tutulmuş aksesuarlardan birinin fotosu təqdim edilib
    apple-vision-pro-ucun-nezerde-tutulmus-aksesuarlardan-birinin-fotosu-teqdim-edilib
    Apple öz süni zəka sisteminin təlimatlandırılması mövzusunda KİV ilə əməkdaşlıq etmək niyyətindədir
    apple-oz-suni-zeka-sisteminin-telimatlandirilmasi-movzusunda-kiv-ile-emekdasliq-etmek-niyyetindedir
    Bütün iPhone 16 modelləri eyni prosessora sahib ola bilərlər
    butun-iphone-16-modelleri-eyni-prosessora-sahib-ola-bilerler
    Apple Vision Pro-nun hansı ayda satışa çıxacağı açıqlanıb
    apple-vision-pro-nun-hansi-ayda-satisa-cixacagi-aciqlanib
    Gələn ilki iPad Pro planşeti iPhone-lara xas olan funksiyanı əldə edə bilər
    gelen-ilki-ipad-pro-planseti-iphone-lara-xas-olan-funksiyani-elde-ede-biler