石鑫华视觉论坛微信公众号:石鑫华视觉

 找回密码
 注册会员
查看: 3513|回复: 1

[原创] VBAI串口传数据,小数点后如何做才不自动自舍五入

[复制链接]

该用户从未签到

发表于 2014-2-26 21:36:15 | 显示全部楼层 |阅读模式 来自:广东省广州市 联通

注册登陆后可查看附件和大图,以及购买相关内容

您需要 登录 才可以下载或查看,没有账号?注册会员

x
VBAI串口传数据,小数点后如何做才不自动自舍五入?请各位VBAI的大大们指个思路出来?
回复

使用道具 举报

  • TA的每日心情
    慵懒
    13 小时前
  • 签到天数: 3156 天

    连续签到: 26 天

    [LV.Master]2000FPS

    发表于 2014-2-26 22:05:35 | 显示全部楼层 来自:广东省东莞市 联通
    VBAI浮点数据结构默认是使用两位小数的,如果要改其它的,就将小数位多加几个。不过总是会有一个位数上是“四舍五入”的。
    NI的小数进位并不是一般的四舍五入,5以下为舍,5以上为入,当小数为5时,会将前面的数变成最近的偶数。如3.14=3.1,3.16=3.2,3.15=3.2,3.25=3.2
    回复 支持 反对

    使用道具 举报

    您需要登录后才可以回帖 登录 | 注册会员

    本版积分规则

    LabVIEW HALCON图像处理入门教程(第二版)
    石鑫华机器视觉与LabVIEW Vision图像处理PDF+视频教程11种全套
    《LabVIEW Vision函数实例详解》教程-NI Vision所有函数使用方法介绍,基于NI VISION2020,兼容VDM21/22/23
    LabVIEW图像处理教程
    机器视觉商城淘宝店铺
    视觉论坛充值赞助方法

    QQ|石鑫华视觉论坛 |网站地图

    GMT+8, 2024-3-29 20:36

    Powered by Discuz! X3.4

    © 2001-2024 Discuz! Team.

    快速回复 返回顶部 返回列表