你可能感兴趣的试题
CPU一次能处理的二进制数据的位数 最长的十进制整数的位数 最大的有效数字位数 计算结果的有效数字长度
相对误差最大的; 相对误差最小的; 绝对误差最大的; 绝对误差最小的。
最长的十进制整数的位数 CPU-次能处理二进制数据的位数 计算结果的有效数字长度 最大的有效数字位数
加减法运算中,有效数字以小数点位数最少为准 乘除计算中,有效数字以最少有效数字位数为准 常数m的有效数字位数需要几位报几位 将常数开方后,结果必须比原数少一位
加减运算中,有效数字以小数点位数最少为准; 乘除计算中,有效数字以最少有效数字位数为准; 常数π的有效数字位数需要几位取几位; 将常数开方后,结果必须比原数少一位
CPU一次能处理二进制数据的位数 最长的十进制整数的位数 最大的有效数字位数 计算结果的有效数字长度
4.32749→4.328; 4.32750→4.328 4.32751→4.328 4.32850→4.328
最长的十进制整数的位数 CPU一次能处理二进制数据的位数 计算结果的有效数字长度 最大的有效数字位数