博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
《程序是怎样跑起来的》第三章
阅读量:4487 次
发布时间:2019-06-08

本文共 365 字,大约阅读时间需要 1 分钟。

  本章讲的是计算机进行小数运算时出错的原因。在我读本章之前我认为计算机是万能的它是不会出错的,但是在读过本章的内容之后让我认识到原来计算机也不是十全十美的,原来计算机也会出错,原来也有计算机表示不出来的数值。例如有些十进制数的小数无法转换成二进制数,就像十进制数0.1,就无法用二进制数正确表示,小数点后面即使有几位也无法表示出来。那么如何来避免计算机计算出错呢?在本章的最后作者介绍了两种方法:第一是回避策略,就是无视这些错误。(根据程序的目的的不同,有时一些微小的偏差不会造成什么问题)。第二是把小数转换成整数来计算。(计算机在进行小数计算时可能会出错惊醒心境带今年,但进行整数计算(不超过可处理的数值范围)时一定不会出错)。

转载于:https://www.cnblogs.com/lcy666/p/10327263.html

你可能感兴趣的文章
chromedriver下载链接以及对应版本
查看>>
[SimplePlayer] 6. 音频同步
查看>>
把一个SVN项目的目录结构 导入到另外一个空白的SVN项目里
查看>>
Android之Adapter用法总结-(转)
查看>>
总结列表显示ListView知识点
查看>>
android 教程实例系列
查看>>
lucene笔记
查看>>
tomcat无法正常shutdown
查看>>
zookeeper + dubbo 搭建
查看>>
根据前序遍历和中序遍历求出二叉树并打印
查看>>
作业4
查看>>
LeetCode "Divide Two Integers"
查看>>
mcs51 串口通信 单片机发 pc收
查看>>
MySQL ACID及四种隔离级别的解释
查看>>
text-align 属性,输入框数字向右靠
查看>>
debian分区方案(就这个看着靠谱点)转
查看>>
虫师Selenium2+Python_11、自动化测试项目实战
查看>>
模拟竖式除法
查看>>
java调用dll
查看>>
图形界面组件实验的一点总结
查看>>