The UNIX and Linux Forums  


Go Back   UNIX och Linux Forum > Upp Forum > High Level Programming
.
google unix.com



High Level Programming Post frågor om C, C + +, Java, SQL och andra programmeringsspråk här.

Mer UNIX och Linux Forum Ämnen Du kan hitta Helpful
Tråd Thread Starter Forum Svar Senaste Inlägg
Skillnader i / var / adm / messages sundar3350 Sun Solaris 15 03-11-2009 11:23
Hur kan jag komma förbi en HTML: enheter skillnad på en RPM? jjinno UNIX for Dummies Frågor & Svar 2 08-07-2007 01:39
VSFTP BESYNNERLIGHET Spetnik UNIX for Dummies Frågor & Svar 7 04-28-2004 03:58
NIS inloggning diskrepans Henrik UNIX for Dummies Frågor & Svar 11 04-08-2003 10:17
Su Lösenord BESYNNERLIGHET jacobsa UNIX for Dummies Frågor & Svar 4 05-30-2002 08:50

Reply
English Japanese Spanish French German Portuguese Italian Dutch Swedish Russian Norwegian Hungarian Hebrew Danish Bulgarian Greek Powered by Powered by Google
 
LinkBack Thread Tools Sök i denna tråd Rate Thread Visningslägen
  #1 (permalänk)  
Old 06-13-2009
Trones Trones is offline
Registered User
  
 

Join Date: Dec 2008
Inlägg: 5
Java dubbel subtraktion BESYNNERLIGHET (inte den vanliga avrundningsregler skillnad)

Jag har gått igenom en java tutorial, och sprang över några besynnerliga i detta lilla exempel ...

Kod:
 class SqrRoot {
    public static void main(String args[]) {
        double num,sroot,rerr,resquare;
        
        for(num = 1.0; num < 100.0; num++) {
            sroot = Math.sqrt(num);
            System.out.println("Square root of " + num + " is " + sroot);
            
            // compute rounding error
            resquare = (sroot * sroot);
            rerr = num - resquare;
            System.out.println("Rounding error: num + " - " + resquare + " = " + rerr);
            System.out.println();
        }
    }
}
Avkastningen är märkligt - när jag såg resultatet, jag skrivit ett litet program som dras av ett antal bokstavlig flyttal, alla med normal binär till decimal oddness (från 1,002 till 1,001 \u003d ,000999999997), men när jag kör över kod, får jag vad som nedan:

Kod:
Square root of 1.0 is 1.0
1.0 - 1.0 = 0.0

Square root of 2.0 is 1.4142135623730951
2.0 - 2.0000000000000004 = -4.440892098500626E-16

Square root of 3.0 is 1.7320508075688772
3.0 - 2.9999999999999996 = 4.440892098500626E-16

....
Jag är inte säker på om det är något jag gör för fel eller vad som orsakar det. Jag har letat överallt och alla jag har hittat är folk frågar om hårdvaran begränsningar flyttal aritmetik. Någon hjälp skulle bli mycket uppskattat.

----- Post Update -----

Efter att ha sett den här postat Jag insåg att jag inte tog hänsyn till vetenskaplig notation ... Pojke som jag känner dum nu
  #2 (permalänk)  
Old 06-14-2009
CRGreathouse CRGreathouse is offline
Registered User
  
 

Join Date: mars 2009
Inlägg: 104
Japp, du hittade det. Det är bara vanliga roundoff fel, visat sig alltför många decimaler.
Reply

Komihåglista

Thread Tools Sök i denna tråd
Sök i denna tråd:

Avancerad sökning
Visningslägen Betygsätt denna tråd
Betygsätt denna tråd:

Utstationering Regler
Du får inte efter nya trådar
Du får inte efter svar
Du får inte skicka bilagor
Du får inte redigera dina inlägg

BB-kod är
Smilies är
[IMG] kod
HTML-koden är Av
Trackback är
Pingbacks är
Refbacks är




Alla tider är GMT -4. Klockan är nu 02:15.


Powered by: vBulletin, Copyright © 2000 - 2006, Jelsoft Enterprises Limited. Översättningar Powered by .
vBCredits v1.4 Copyright © 2007 - 2008, PixelFX Studios
UNIX och Linux Forum Innehållet upphovsrättsskyddat © 1993-2009. All Rights Reserved.Ad förvaltning RedTyger

Content Relevant webbadresser från vBSEO 3.2.0