所有栏目

简述浮点运算中溢出处理方法

已输入 0 字
优质回答
  • 溢出就是超出了机器数所能表示的数据范围,浮点数的范围是由阶码决定的。

    当运算阶码大于最大阶码时,属溢出;当运算阶码小于最小负阶码时,计算机按0处理。浮点运算就是实数运算,因为计算机只能存储整数,所以实数都是约数,这样浮点运算是很慢的而且会有误差。现在大多数机器都是32位的,也就是说64位都用来表示整数的话,那么对于无符号整数就是0 到 2^32-1,对于有符号的话就是-2^31 到 2^31-1。

    2023-10-24 19:00:33
最新问题 全部问题