订单
  • 订单
  • 产品
  • 企业
发布询价单

关注新智造网

工艺分类
新智造网 > 加工问答 > 问答详情 我要提问

请教，那位大侠能解决宏程序计算中的数值溢出问题

少年游 | 来自：广东 东莞 | 浏览68次 | 提问时间：08-20 00:14 | 回答数量：2
最近编了一个宏程序，其中有一个计算数值的程序段“#110=6.0-6.3+0.3”其结果应该得0。但在存储器中显示的是“****** 这应该是十进制转换为二进制计算后出现的溢出现象，但要是采用取整的方法，加工精度会受到影响。请教各位大侠，是否有更好的方法。
回答人：少年游08-20 00:53
谢谢大侠指教
回答人：车刀08-20 00:50
用INT表示，假如你要的精度是0.001，那么 #110=(INT(INT((6.0-6.3+0.3)*1000))-0.1))/1000
您目前状态：非注册用户 (**部分为隐藏内容，仅对会员开放)

查看隐藏内容请先登录或注册会员 登  录 注  册

相关问答
订单
热门问题
最新订单
其他浏览

Copyright (c)2014-2019 新智造网(www.xzhizao.com) SYSTEM All Rights Reserved

备案号: 皖ICP备17009014号-2 营业执照

客服热线： 18726012100　客服QQ：760967838    Email：service@xzhizao.com 侵权投诉

声明：依据国家《互联网管理规定》，本网站禁止发布任何违反中华人民共和国法律、法规的内容。