设为首页 - 加入收藏
广告 1000x90
您的当前位置:黄大仙一二三份资料 > 精度 > 正文

浮点型数据的精度是什么意思

来源:未知 编辑:admin 时间:2019-08-09

  可选中1个或多个下面的关键词,搜索相关资料。也可直接点“搜索资料”搜索整个问题。

  知道合伙人软件行家采纳数:14374获赞数:332611982年上海业余工业大学化工系毕业 现退休向TA提问展开全部

  32位单精度浮点型数的二进制位的第0-22位为2进制小数尾值,决定了它的精度在2的负23次方,1/(2^23)=0.0000001

  64位双精度浮点型数的二进制位的第0-52位为2进制小数尾值,决定了它的精度在2的负52次方,1/(2^52)=2.2e-16

  要超过这精度要求需要将数据类型定义为Decimal(VB6.0)数据类型,它有28位小数精度(十进制)

  展开全部浮点型数据又称单精度浮点数,精度表示的是该浮点数的取值范围。。。

  双精度类型:+-1.7*10^(-308)~~~+-1.7*10^308 双精度占用8个字节的内存

本文链接:http://vendor-lock.com/jingdu/629.html

相关推荐:

网友评论:

栏目分类

现金彩票 联系QQ:24498872301 邮箱:24498872301@qq.com

Copyright © 2002-2011 DEDECMS. 现金彩票 版权所有 Power by DedeCms

Top