Hem Utveckling Vad är heltalsöverskridning? - definition från techopedia

Vad är heltalsöverskridning? - definition från techopedia

Innehållsförteckning:

Anonim

Definition - Vad betyder heltalströmning?

Heltalsöverskridande är resultatet av ett CPU-försök att aritmetiskt generera ett nummer större än vad som kan passa i det avsedda minnesutrymmet. Aritmetiska operationer har alltid potential att returnera oväntade värden, vilket kan orsaka ett fel som tvingar hela programmet att stänga av. Av denna anledning föredrar de flesta programmerare att utföra matematiska operationer i en undantagsram, vilket i stället returnerar ett undantag för heltalöverskridning.

Heltalsöverskridning kallas också aritmetiskt överflöde.

Techopedia förklarar Integer Overflow

Ett exempel på heltalöverskridning kan inträffa när en programutvecklare inte tillåter förekomst av ett negativt tal. I det här fallet, om en variabel utför en operation som resulterar i ett negativt tal, inträffar ett överflöde och variabeln returneras som ett positivt heltal. Ett annat exempel på heltalöverskridning skulle vara att dela ett tal med noll, vilket matematiskt ger ett stort antal med ett oändligt värde.

En processors beteende i händelse av ett heltalöverskridning skiljer sig från en processor till en annan. Grafikbehandlingsenheter och digitala signalprocessorer är konstruerade för att hantera många aritmetiska förhållanden, inklusive heltalöverskridning. I ett fall med heltalöverskridning returnerar dessa processorer vanligtvis det högsta tillåtna antalet.

Vad är heltalsöverskridning? - definition från techopedia