石鑫华视觉论坛's Archiver
›
视觉生成器VBAI
› VBAI串口传数据,小数点后如何做才不自动自舍五入
如果能回去
发表于 2014-2-26 21:36:15
VBAI串口传数据,小数点后如何做才不自动自舍五入
VBAI串口传数据,小数点后如何做才不自动自舍五入?请各位VBAI的大大们指个思路出来?
石鑫华视觉
发表于 2014-2-26 22:05:35
VBAI浮点数据结构默认是使用两位小数的,如果要改其它的,就将小数位多加几个。不过总是会有一个位数上是“四舍五入”的。
NI的小数进位并不是一般的四舍五入,5以下为舍,5以上为入,当小数为5时,会将前面的数变成最近的偶数。如3.14=3.1,3.16=3.2,3.15=3.2,3.25=3.2
页:
[1]
查看完整版本:
VBAI串口传数据,小数点后如何做才不自动自舍五入
LabVIEW HALCON图像处理入门教程(24.09)
石鑫华机器视觉与LabVIEW Vision图像处理PDF+视频教程11种全套
《LabVIEW Vision函数实例详解2020-2024》教程-NI Vision所有函数使用方法介绍,基于NI VISION2020,兼容VDM21/22/23/24