mr923 发表于 2017-4-29 09:56:25

经典错误, Python小数比较

先看一段代码:
            print 'hu=',hu
            print 'hm=',hm

            FC = float(hm)-float(hm)
            FA = float(hm)-float(hm)
            FD = float(hm)-float(hm)
            GE = float(hm)-float(hm)
            
            Real_Date=
            print 'FC =',FC,' FA =',FA,' FD=',FD,' GE=',GE
            wt = 0      
            for x in xrange(len(Real_Date)):                           

                if(float(Real_Date) != float(dbFileDate)):                              
                  print Real_Date,' break ',float(dbFileDate)
                  wt = 2
                  break            
            return wt
Real_Date的数据与dbFileDate数据是从文件中取到的:





按理来说,以上代码从这两个文件中取得数据,再去对比,肯定没有什么问题。

但是,一运行就是有问题,程序对比245.0与245.0就判定为不相等了。



当时,搞的我蒙,怎么会这样,浮点型与浮点型可以啊:




结果是


后来,我又这样写,转成整数比较吧
            for x in xrange(len(Real_Date)):                           
                Db_X = int(float(Real_Date) * 1000)
                print 'Db_X',Db_X
                Db_Y = int(float(dbFileDate) * 1000)
                print ' Db_Y ',Db_Y
                if (Db_X != Db_Y):                  
                  print Real_Date,' break ',float(dbFileDate)
                  print Db_X,' int ',Db_Y
                  wt = 2
                  break

结果同样让你心碎




转成int后,精度丢失了,245.0变成了249.9999,打了这么多年仗,我第一次感觉到这么无奈,这样折腾2,3个小时,算了,先出去走走吧,走到了外面,突然,我想到一个问题,Python的代码是用utf-8,而我的系统是XP,XP的默认编码是gbk,会不会因为这样的原因呢?
程序指定了utf-8


我马上修改了一下程序,把从文件中读取的数据全部转成utf-8
         wt = 0
            for x in xrange(len(Real_Date)):
                x11 =str(Real_Date).decode('utf-8').encode('utf-8')
                x12 = float(x11)
                y11 = dbFileDate.decode('utf-8').encode('utf-8')
                y12 = float(y11)
                print x12," == ",y12            
                if(x12 != y12):
                  print x12,' break ',y12      
                  wt = 2
                  break
一运行程序,完美解决:


归根到底,就是因为编码问题造成的
页: [1]
查看完整版本: 经典错误, Python小数比较