正 文:
在使用MSSQL数据库的时候,当某个字段被定义成 float 浮点数类型时,我们需要特殊处理。一个float浮点数是不能直接和零比较的,int可以直接和0比较,但float浮点数是有精度要求的。
在C/C++语言中,Float为单精度,内存中占4个字节,有效数位是7位,(本来是8位的,但要除去一个正负符号位),即有效数字是7位,当超过这个精度时,浮点数就无能为力了。C++ 下的判断
方法如下:
“float型变量和“零值”比较的方法:
const float EPSINON = 0.000001;
if ((x >= - EPSINON) && (x <= EPSINON))
浮点型变量并不精确,其中EPSINON是允许的误差(即精度),所以不可将float变量用“==”或“!=”与数字比较,应该设法转化成“>=”或“<=”形式。如果写成if (x == 0.0),则是错误的。
因为1.0在计算机中可能存为0.999999或1.00001等,很难恰好是1.0
”
在高级语言ASP中应用float数时,同样需要注意这个问题。
比如,我们在数据库字段中定义 a, b 为 float, c 为 int ,a=2.00, b=0.01, c=200,
现在来计算 a-c*b 和 0 的大小时,我们这样判断:
if a-c*b <= 0 then 就是错误的。有人说,a-c*b 这个计算结果不正是0么?有什么错?但正如我们在上面说的,2.00这个值在计算机内存中可能真正的值是 2.000001, b 可能是 0.0099999,所以计算机计算后的值比0大!所以上面的条件不成立!
在一般的实际应用中,我们没有必要要求那么高的精度,小数点后2位即可。这个时候我们可以使用asp提供的格式化函数
FormatNumber ,比如 FormatNumber(x,2,-1,-2,-2) 这个值再和 0 比较 就不会出问题了。
ASP中的语法:
FormatNumber(Expression[,NumDigAfterDec[,IncLeadingDig[,UseParForNegNum[,GroupDig]]]])
expression 必选项。要被格式化的表达式
NumDigAfterDec 可选项。指示小数点右侧显示位数的数值。默认值为 -1(指示使用的是计算机的区域设置)。
IncLeadingDig 可选项。三态常数,指示是否显示小数值小数点前面的零
-2 = TristateUseDefault - 使用计算机区域设置中的设置。
-1 = TristateTrue - True
0 = TristateFalse - False
UseParForNegNum 可选项。三态常数,指示是否将负值置于括号中
-2 = TristateUseDefault - 使用计算机区域设置中的设置。
-1 = TristateTrue - True
0 = TristateFalse - False
GroupDig 可选项。三态常数,指示是否使用计算机区域设置中指定的数字分组符号将数字分组。
-2 = TristateUseDefault - 使用计算机区域设置中的设置。
-1 = TristateTrue - True
0 = TristateFalse - False