Wie kann ich Excel oder StarCalc dazu bringen auf 17 und mehr Stellen genau zu rechnen und nicht einfach 2^51=1125899906842620
sondern richtig 1125899906842624 auszugeben?
Verwirrt
MK
Pentium 1 ?
Hallo Martin,
nur der Vollständigkeit halber…
ist das ein neuerer Rechner oder ne alte Gurke mit nem Pentium 1 ?
Wenn letzteres, dann könnte es an diesem alten P1 Bug liegen, der falsch rechnet…
WEnnich mich recht entsinne waren davon die ersten Pentiums bis 90 oder 100 Mhz betroffen und es lag an der FPU die falsch rechnete.
Jedenfalls ist mir das als erstes zum Thema eingefallen.
Andererseits schadet es auch nie, wenn man ServicePacks installiert.
Welches Office hast du ? 97 2000 XP ?
Grüsse
Mike
[Bei dieser Antwort wurde das Vollzitat nachträglich automatisiert entfernt]
Stimmt nicht ganz.
Hi Mike,
Wenn letzteres, dann könnte es an diesem alten P1 Bug liegen,
der falsch rechnet…
Es gab zwar so einen Bug, doch der hatte zur Folge, daß noch ungenauer gerechnet wurde.
Ciao
Uwe
Hi Martin,
Wie kann ich Excel oder StarCalc dazu bringen auf 17 und mehr
Stellen genau zu rechnen und nicht einfach
2^51=1125899906842620
sondern richtig 1125899906842624 auszugeben?
Excel und StarCalc können nichts für diese Rundungsdifferenzen. Es liegt an dem Variablentyp, der nur auf 17 Stellen genau ist (prozessorbedingt). Du kannst Dir einen eigenen Variablentyp definieren, den Du aus zwei (oder mehr existierenden) zusammensetzt. Dein Beispielergebnis bildest Du dann intern als
„1“ in der ersten Hälfte und „125899906842624“ in der zweiten ab. In die Zellen des Kalkulationsprogrammes schreibst Du eine String, den Du nach Umwandlung aus den beiden Werten zusammensetzt.
Natürlich mußt Du jede Rechenfunktion selbst programmieren (sogar eine einfache Addition).
Wofür brauchst Du diese Genauigkeit? Willst Du Pi berechnen:smile:
Ciao
Uwe
Servus Uwe,
Excel und StarCalc können nichts für diese
–snip
In die Zellen des Kalkulationsprogrammes schreibst Du eine
String, den Du nach Umwandlung aus den beiden Werten
zusammensetzt.
Sowas habe ich schon fast vermutet.
Natürlich mußt Du jede Rechenfunktion selbst programmieren
(sogar eine einfache Addition).
Genau das habe ich befürchtet
Wofür brauchst Du diese Genauigkeit? Willst Du Pi berechnen:smile:
Nö, ganz einfach die Schachbrettaufgabe mit den Weizen- bzw Reiskörnern pro Feld num/mmerisch lösen. Ich habe es schließlich dann mit mupad gemacht.
Danke
M
Ouups
Hallo Uwe,
Excel und StarCalc können nichts für diese
Rundungsdifferenzen. Es liegt an dem Variablentyp, der nur auf
17 Stellen genau ist (prozessorbedingt). Du kannst Dir einen
…das hab ich nicht gedacht.
Ich hätte jetzt ganz einfach erwartet, dass ein moderner Prozessor mehr kann, schliesslich hat mein TI-30 in der Schule schon 8 Stellen beherscht…
Aber das ist nur subjektiv… 17 Stellen sind schon was anderes als 8 
Wenns ichs mir recht überlege.
…hm aber hat ein Athlon oder pIII nicht schon soooo viele Transistoren, dass er viel mehr schaffen könnte ?
Dumm frag
Gruss
Mike