mantissa

Mit jelent?

Egy fényképezőgépnél két dolog számít: mennyire közelítesz rá valamire, és hány képpontos a kép. A közelítés mértéke a exponent (kitevő), a képpontok száma a mantissa (mantissza). Bármennyire ráközelítesz, a kép ugyanolyan részletes marad.

A 32-bit float mintában a mantissza 23 bitet kap. A lebegőpontos szám bináris alakja mindig 1-gyel kezdődik, ezért ezt az egy bitet nem kell tárolni. Így valójában 24 bitnyi pontosság jön ki.

A különbség a 24 bites egész számos fájlhoz képest az, hogy a float ezt a pontosságot minden szinten megtartja. Egy −60 dBFS-es halk jel is ugyanannyi értékes számjegyet kap, mint egy hangos. Az egész számos formátumban a halk jelre csak a lépcsőfokok töredéke jut.

Hol találkozol vele?

• A felvevőprogram belső számolásában: ezért nem romlik a minőség, ha egy sávot erősen lehúzol, majd később újra felhúzol.
• Exportnál: 32 bit float választásakor a mantissza a kitevővel együtt a fájlba kerül. 24 bites egész számos mentésnél a program újra kerekít, vagyis quantization (kvantálás) történik.
• A bit depth leckében: a 32 bites szám felépítését mutató ábrán ez a leghosszabb, 23 bites mező.

Gyakori félreértés

• „A 32 bit float mindig pontosabb, mint a 24 bit.” Hangos jeleknél a lépcsők finomsága nagyjából azonos. A float előnye a hatalmas tartomány és az, hogy halk szinten sem durvul el.
• „A mantissza önmagában megadja a minta értékét.” Csak a kitevővel és az sign (előjel) bittel együtt. A három rész együtt ad egy számot.