Apple öz smartfonlarında böyük dil modellərinin işə salınması üsulu üzərində çalışır
Elm & Texnologiya
26.12.2023
Emil Nəcəfov
Böyük dil modelləri böyük həcmdə yaddaş və hesablama resurslarını tələb edirlər. Buna görə də onları mobil cihazlarda işə salmaq qəlizdir. Apple mühəndislərinin aparmış olduqları tədqiqata əsasən böyük dil modellərini fləş yaddaşın istifadəsi ilə işə salmaq daha effektivlidir. Gözləntilərə əsasən Apple bu texnologiyanı öz generativ süni zəka sisteminin iPhone-larda işə salınması üçün istifadə edəcək. Apple mühəndislərinin sözlərinə əsasən məhdud həcmdə resursa sahib cihazlarda böyük dil modellərini fləş yaddaşın istifadəsi ilə işə salmaq daha çox sərf edir. Bununla yanaşı fləş yaddaş mobil cihazlarda tez-tez istifadə olunur. Bununla yanaşı Apple mühəndisləri mobil cihazlarda böyük dil modellərinin istifadə edə biləcəkləri əlavə əməliyyatların sayını azaltmağa və fləş yaddaşın performansını artırmağa hədəflənmiş iki qaydanı təqdim ediblər.
- Böyük dil modeli hər dəfə yeni məlumatları yükləmək əvəzinə artıq emal edilmiş məlumatları təkrar olaraq istifadə etməlidir
- Məlumatlar elə şəkildə qruplaşdırılmalıdır ki, onları böyük fraqmentlər şəkildə oxumaq mümkün olsun. Bu, neyron şəbəkəsinin işini sürətləndirməyə hədəflənib.
Aparılmış tədqiqata əsasən bu üsul sayəsində süni zəka modeli CPU-da 4-5 dəfə, GPU-da isə 20-25 dəfə daha sürətli çalışa bilir.
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
Apple Vision Pro üçün nəzərdə tutulmuş aksesuarlardan birinin fotosu təqdim edilib
Apple Vision Pro üçün nəzərdə tutulmuş aksesuarlardan birinin fotosu təqdim edilib
İyun ayında keçirilmiş WWDC 2023 konfransı çərçivəsində Apple Vision Pro qarışıq reallıq (AR + VR / Mixed Reality) cihazı təqdim olunan zaman onun üçün müxtəlif aksesuarların satışa çıxacağı bəlli idi.
Apple öz süni zəka sisteminin təlimatlandırılması mövzusunda KİV ilə əməkdaşlıq etmək niyyətindədir
Apple öz süni zəka sisteminin təlimatlandırılması mövzusunda KİV ilə əməkdaşlıq etmək niyyətindədir
Apple böyük nəşriyyatlar və kütləvi informasiya vasitələri ilə danışıqlar aparır. Belə ki, şirkət onların kontentlərini öz generativ süni zəka sisteminin təlimatlandırılmasında istifadə etmək istəyir.
Bütün iPhone 16 modelləri eyni prosessora sahib ola bilərlər
Bütün iPhone 16 modelləri eyni prosessora sahib ola bilərlər
Macrumors saytının əməkdaşları gələn il təqdim ediləcək iOS 18 əməliyyat sisteminin erkən kodunu əldə ediblər.
Apple Vision Pro-nun hansı ayda satışa çıxacağı açıqlanıb
Apple Vision Pro-nun hansı ayda satışa çıxacağı açıqlanıb
Apple şirkəti iyun ayında keçirilmiş WWDC 2024 konfransı çərçivəsində Apple Vision Pro adlı ilk qarışıq reallıq (AR + VR / Mixed Reality) cihazını təqdim etmişdi.
Gələn ilki iPad Pro planşeti iPhone-lara xas olan funksiyanı əldə edə bilər
Gələn ilki iPad Pro planşeti iPhone-lara xas olan funksiyanı əldə edə bilər
Bloomberg saytının məşhur insayderi Mark Gurman gələn il təqdim olunacaq yeni iPad Pro barəsində növbəti məlumatı təqdim edib.
Həftənin xəbərləri
