衡量计算机精度的主要技术指标是 有效数字位数。有效数字位数是指一个数字中从第一个非零数字开始到最后一个数字,不包括尾随的零。例如,数字123.456有6位有效数字,而数字123.000只有3位有效数字。
此外,字长也是决定计算机计算精度的重要因素。字长指的是计算机在同一时间内处理二进制数的位数。例如,32位CPU可以在同一时间内处理32位的二进制数据,而64位CPU则可以处理64位的二进制数据。字长越长,计算机处理数据的精度通常越高。
综上所述,衡量计算机精度的关键指标是 有效数字位数和 字长。