c# vb 程序中怪异的double类型数据数学运算结果
在c#中运行如下程序:static void Main(string[] args)
{
double a = 218.89;
double b = 118.89;
double c = 100.0;
double x = a - b; //调试显示实际x=99.999999999999986,不应该是100吗???
Console.WriteLine(x.ToString()); //显示输出:100.00,输出为什么又成了100???
if (x == 100) //比较又相等????
{
Console.WriteLine("=100");
}
x = x - c; //调试显示实际x=-0.000000000000014210854715202004
Console.WriteLine(x.ToString()); //输出:-1.4210854715202E-14 ,为什么不是0呢????
Console.Read();
}
运算得出的结果与数学理论预期不一致,这是为什么呢?
虽然说double类型是浮点表示不够精确,但对于只有2位小数的运算式居然也有这样的偏差,实在太过于怪异了。
在实际应用中可能就会因为一点点误差导致程序运行的错误结果,这是什么原因呢?
上述程序改成同样vb6.0程序,也会出现相同的怪异的结果。
但你如果把上述a,b,c改成其他值,其结果可能与数学理论结果是一致的。
期待高手解答!
--------------------编程问答-------------------- 浮点数误差。
这可能是我这辈子最后回答的一个问题了。
我进去了会想念大家的。 --------------------编程问答-------------------- 板凳~~
浮点数误差问题
计算机不管什么语言都会有这个问题的
杜绝误差是不可能的,只是说尽量减小误差,google一下一大把方法 --------------------编程问答-------------------- 这是在出大一大二的考试题么??? --------------------编程问答-------------------- --------------------编程问答--------------------
补充:.NET技术 , C#