Wenn ich bei dem Windows Rechner in das Hexdezimalsystem schalte, und dann A mal A rechne und immer wieder auf „=“ also Ergebnis drücke erscheint irgend wann als Ergebnis 0. Das passiert ebenfalls wenn ich immer wieder 2 mal 2 rechne. Ich wollte jetzt wissen warum das so ist, oder ob das ein Fehler ist.
Gruß kruemel
Hallo kruemel,
Wenn ich bei dem Windows Rechner in das Hexdezimalsystem
schalte, und dann A mal A rechne und immer wieder auf „=“ also
Ergebnis drücke erscheint irgend wann als Ergebnis 0. Das
passiert ebenfalls wenn ich immer wieder 2 mal 2 rechne. Ich
wollte jetzt wissen warum das so ist, oder ob das ein Fehler
ist.
Der Rechner arbeitet mit 64-Bit Integern.
Bei einem Überlauf wird 0 angezeigt … Overflow wäre eigentlich geschickter …
MfG Peter(TOO)