第三章,讲的是二进制的小数运算机制,如何用二进制表示小数呢?通俗的说:一个小数乘以2结果小于1就为0基数不变,若大于1为1,基数=基数-1。
例:0.6,0.6*2=1.2>1 为1 基数=1.2-1=0.2,0.2*2=0.4<1 为0 基数=0,0.4*0.8<1 为0 基数=0,0.8*2=1.6>1 为1 基数=1.6-1=0.6....所以0.6二进制:1001。计算机在进行小数运算时,有一些数无法转换成二进制数,例如:1/3结果是循环小数,而计算机是功能有限的设备,处理不了无限循环小数。会取近似值或四舍五入。
前三个小章结,讲述了二进制如何表示小数、计算机在程序运行后得不到正确的结果及计算机出错的原因是由于采用浮点数处理小数,期间提到了正则表达式和EXCESS系统以及如何避免出错。在最后补充了二进制和十六进制的转换。
原文地址:https://www.cnblogs.com/liu7/p/10313239.html
时间: 2024-10-09 21:20:21