mal was richtig dämliches :-)

Hallo zusammen,

das Informatik-Forum geht in den Archivmodus, genaue Informationen kann man der entsprechenden Ankündigung entnehmen. Als Dankeschön für die Treue bekommt man von uns einen Gutscheincode (informatikforum30) womit man bei netzliving.de 30% auf das erste Jahr sparen kann. (Genaue Infos sind ebenfalls in der Ankündigung)

Vielen Dank für die Treue und das Verständnis!

    Hi leute,
    ich hab eigentlich gemeint, dass ich c++ kann (hab jetzt aber unibedingt soo viel java gemacht, dass ich jetzt fast verzweifle).

    mein triviales problem:

    Code
    1: double x = 0.015;
2: for (int i=0; i<20; i++)
3: x *= 2.0;
 
4: printf( "%.15lf", x );



    wenn ich in zeile 2 einen breakpoint setze, ist x = 0.01499999999,
    in zeile 4: x= 15728.639999999999

    wenn das ganze anstelle von double mit float gemacht wird, wirds noch viiieeeellll extremer (also der fehler ist dann riesig).

    ich habs mit

    Code
    dobule x = (double)0.015;
und
double x = (double)0.015f;
und 
doube x = (double)0.0150;
etc.



    probiert.
    bei x = 0.0150 liefert wenigstens der debugger richtige ergebnisse in zeile 2, aber die rechnung wird trotzdem falsch.

    hab ich zuviel java gemacht oder bin ich einfach blöd?
    HIIIIIIILLLLLLLFFFFFFFFFFEEEEEEEEE!!!!!!!

    danke


    edit: ach ja... der compiler war MS Visual Studio 2003 - VC.NET compiler

    Zitat von calvin


    wenn ich in zeile 2 einen breakpoint setze, ist x = 0.01499999999,
    in zeile 4: x= 15728.639999999999

    Und wo liegt das Problem?
    Das Ergebnis ist doch richtig. (0.015 * 2^20 = 15728.64)
    Die geringe Ungenauigkeit kommt doch von der internen Darstellung der Zahlen.

    Hier liegts wirklich nur daran, dass die Zahl binär nicht genau darstellbar ist (hint: vermeide Gleichheitsabfragen). Soll nix schlimmeres passieren.

    Denen, die das Thema weiter interessiert, kann ich die VU "Numerische Aspekte der Datenanalyse" von Prof. Überhuber (LVA Nr. 106.047, Pflicht für Data Engineering & Statistics) nur ans Herz legen.

    edit: wie "riesig" ist der fehler bei Float denn?

    Tjo, wie riesig soll er sonst sein? Sind eh nur 9er hintn.

    Um das zu vermeiden, kannst du z.B. die Einheit ändern, und int verwenden.
    Also angenommen, das sind Sekunden bei dir, dann nimmst int Millisekunden, und der Wert wär dann 15. Das wär genau. Wenn nicht vorhersehbar ist, wieviele Stellen nach dem Komma du brauchst, bist mit Gleitkomma besser dran, da bleiben die Rechenfehler klein.