Hvis du noen gang har lyttet til digital musikk - spesielt noen form for tapy lydformat - så har du blitt utsatt for matematisk kvantisering Denne digitale signalbehandlingen bak scenen er ganske vanlig og oftest en integrert funksjon av moderne lydprogramvare eller maskinvare (f.eks. digitale til analoge omformere). Men kvantisering er ikke begrenset til bare lyd. Begrepet og dets bruksområder gjelder også for andre felt, som fysikk eller digital bildebehandling.
I et opptaksstudio henter mikrofoner analoge lydbølger, som deretter behandles til et digitalt format. Signalet kan samples ved 44,100 Hz og kvantiseres med 8-, 16- eller 24-bit dybde (og så videre). Høyere bitdybder gir mer data, noe som muliggjør mer nøyaktig konvertering og gjengivelse av den opprinnelige bølgeformen.
Fundamentalt er kvantisering en kompleks prosess med avrunding som innebærer noe nivå av upresisjon. Datamaskiner opererer på seg og nuller, hvorfor analog-til-digital konvertering regnes som en nær tilnærming og ikke en eksakt kopi. Når det gjelder musikk, må ikke bare det kvantiserte signalet opprettholde riktig suksess og amplitude av verdier, men timingen må også være nøyaktig. Prosessen må sørge for at musikken rytmer opprettholdes, med notater jevnt fordelt og satt på samme slag (eller fraksjoner derav). Ellers kan lyden ende opp med å høres ut eller merkelig til lyttende ører.
Dette kvantiseringsbegrepet kan observeres visuelt med et bilderedigeringsprogram, for eksempel Photoshop. Når et stort bilde er redusert i størrelse, er det et tap av pikselinformasjon på grunn av den matematiske prosessen som håndterer oppgaven. Programvaren utfører beregningene og avrundingen for å kaste bort uønskede piksler samtidig som den generelle integriteten, forholdet og konteksten til bildet holdes, og begrensede proporsjoner er like kritiske for bilder som rytmen er til musikk. Når du zoomer inn og sammenligner den fornyede versjonen av bildet til originalen, har kantene og objektene en tendens til å virke litt grov eller tynn. Dette visuelle aspektet av lossy komprimering relaterer tilsvarende til typer digitale lydfiler. Mer data og / eller mindre komprimering resulterer i høyere samlet kvalitet.
