Du bist nicht angemeldet.

Stilllegung des Forums
Das Forum wurde am 05.06.2023 nach über 20 Jahren stillgelegt (weitere Informationen und ein kleiner Rückblick).
Registrierungen, Anmeldungen und Postings sind nicht mehr möglich. Öffentliche Inhalte sind weiterhin zugänglich.
Das Team von spieleprogrammierer.de bedankt sich bei der Community für die vielen schönen Jahre.
Wenn du eine deutschsprachige Spieleentwickler-Community suchst, schau doch mal im Discord und auf ZFX vorbei!

Suchergebnisse

Suchergebnisse 1-2 von insgesamt 2.

Werbeanzeige

14.07.2013, 20:53

Forenbeitrag von: »mushroomer«

C# Float Werte ungenau

Alle Werte werden intern im Rechner im IEEE 754 Format umgewandelt. Dieses Format gibt es in 2 Varianten: - einfache Genauigkeit - doppelte Genauigkeit Das Format besteht im wesentlichen aus 3 Komponenten: - Vorzeichen - Mantisse - Exponent Nun, der Fehler, den du beobachtest ereignet sich genau in diesem Format, oder genauer gesagt: In der Mantisse. Wenn du jetzt Beispielsweise 0,1 aus unserem System in IEEE 754 zur Basis 2 umwandeln willst wirst du feststellen, dass die 0,1 im Dualsystem eine ...