Top.Mail.Ru
microsoft-создала-сверхлёгкую-ИИ-модель-для-работы-на-обычных-процессорах
Microsoft создала сверхлёгкую ИИ-модель для работы на обычных процессорах

Microsoft, adaty prosessorlarda işläp bilýän aşa ýeňil AI modelini döretdi

21.04.2025

Microsoft-yň alymlary BitNet b1.58 2B4T – 2 milliard parametrli ilkinji 1-bitli emeli aň modelini işläp düzdüler, ol Apple M2 ýaly adaty prosessorlarda işläp bilýär. Tom’s Hardware-iň habaryna görä, MIT-iň açyk ygtyýarlygy bilen çykan model Hugging Face platformasynda elýeterli. Onuň aýratynlygy 1-bit agyrlyk derejesini ulanyp (-1, 0, +1), bu adatdaky 16 ýa-da 32-bit formatlaryny ulanýan modeller bilen deňeşdirilende, ýatda saklamaga we hasaplaýyş çeşmelere bolan talaplaryny ep-esli azaldýar.

BitNet, 4 trillion tekst birliklerinde (tokenda) öwredilip, Google Gemma 3 1B ýaly modeller bilen öndürijilik boýunça deňeşdirilýär, ýöne bary-ýogy 400 MB ýat sarp edýär – bäsdeşlerden birnäçe esse az. Bu, kuwwaty çäklendirilen enjamlar üçin ony amatly edýär we kuwwatly grafiki kartalara (GPU) ýa-da nerw proseslerine (NPU) garaşlylygy peseldýär. Emma iň ýokary öndürijilik üçin, GPU-ni häzirlikçe goldamaýan ýörite bitnet.cpp çarçuwasy gerek.

Leave a Reply

Your email address will not be published.

loader-image
Ashgabat
1:28 pm, May 14, 2025
temperature icon 41°C
переменная облачность
Humidity 7 %
Pressure 1001 mb
Wind 6 mph
Wind Gust Wind Gust: 6 mph
Clouds Clouds: 50%
Visibility Visibility: 0 km
Sunrise Sunrise: 5:57 am
Sunset Sunset: 8:08 pm
Найдено-решение-бага-со-страницей-здоровья-аккумулятора-в-android-16-beta-4
Öňki taryh

Android 16 Beta 4-de batareýanyň saglyk sahypasy bilen baglanyşykly ýalňyşlyk çözüldi

Учёные-открыли-новый-цвет-оло,-обманув-человеческий-глаз
Next Story

Alymlar adam gözüni aldamak bilen täze reňk “olo”-ny açdy

Soňkylar Tehnologiýa

GitTop