Du bist nicht angemeldet.

Stilllegung des Forums
Das Forum wurde am 05.06.2023 nach über 20 Jahren stillgelegt (weitere Informationen und ein kleiner Rückblick).
Registrierungen, Anmeldungen und Postings sind nicht mehr möglich. Öffentliche Inhalte sind weiterhin zugänglich.
Das Team von spieleprogrammierer.de bedankt sich bei der Community für die vielen schönen Jahre.
Wenn du eine deutschsprachige Spieleentwickler-Community suchst, schau doch mal im Discord und auf ZFX vorbei!

C# Float Werte ungenau

  • 1
  • 2

Werbeanzeige

TGGC

1x Rätselkönig

Beiträge: 1 799

Beruf: Software Entwickler

  • Private Nachricht senden

11

15.07.2013, 17:23

Zitat von »TGGC«

Weil es nur eine begrenzte Anzahl signifikanter Stellen gibt. Sagen wir der Einfachheit halber 3 Stellen. Wenn du also als Beispiel die Zahl 101011 abspeicherst, wird daraus auf die naechste Zahl mit 3 signifikanten Zahlen gerundet 101000. Addierst du nun z.b. 101000 + 11 ergibt dies also 101000. Daher ist also auch 101000 + 11 + 11 = 101000. Machst du aber 101000 + (11 + 11) = 101000 + 110 = 101110 nach dem Runden also 110000. Also doch sehr logisch, oder?
Wie an Hand dem von mir fett markierten Teil zu ersehen, wird bei drei signifikanten Stellen statt einer 101011 nur ein gerundetes 101000 gespeichert. Ich kann also beliebig oft 11 hinzuaddieren, der Wert bleibt immer gleich.

Als Strafe fuer fehlerhaftes Lesen muss du die FB Seite von Spiele Kost besuchen und deine drei Favoriten dort mit deinen Freunden teilen. :p
Tetris Meeting Mainz | WMK Gamesroom | Schau dem neuen Tetris Großmeister zu
  • 1
  • 2

Ähnliche Themen