房天下

Fang.com
房天下 > 房天下问答 > 业主生活 > 其他

  • excel问题,这是cpu的bug吗?

    在excel中，偶然得出下面问题，前两列数据为手工输入，C列从第二格开始为公式：c2=c1+a2-b2，c3=c2+a3-b3，公式往下拖。结果c10不等于0，如果把b列小数改为整数，结果正常。一模一样的公式在其他表中又正常（AB列数据不同）。在WPS表格中也是这样。cpu问题？ A B C80000 80000 27517 52483 2863.3 49619.7 10568 39051.7 220 38831.7 900 37931.7 26439.1 11492.6 10982 510.6 445.6 65 65 -1.47793E-12

    提问者：zhfsgpp

    发布于2010-12-30

共1个回答
  • taiheguoyi 丨Lv 3
    这是Excel中浮点运算的机制问题简单一点说，在Excel中，数字的运算都是先转换成二进制运算后，再转换回十进制的。碰巧有小数后是1的，比如0.1，0.51，……转换成二进制后是无限循环的，因此，运算的结果再换回十进制后就不是整数，而是带一个无限不循环的小数。要解决此类问题，应该在有浮点运算的地方使用精度控制函数，如Round()等，关于浮点运算的成因及解决方法，详可参考如下参考资料参考文献：
    +10 2010-12-30 举报
热门人气推荐
推荐楼盘小区二手房商圈租房热门知识房产圈 相关推荐房产百科
免责声明：问答内容均来源于互联网用户，房天下对其内容不负责任，如有版权或其他问题可以联系房天下进行删除。