数值精度问题

我在数据库里的数据是149.999902，预览的时候为啥会变成150

image.pngimage.png
FineReport 小狮子华 发布于 2023-2-24 16:02
1min目标场景问卷 立即参与
回答问题
悬赏：3 F币 + 添加悬赏
举报
提示：增加悬赏、完善问题、追问等操作，可使您的问题被置顶，并向所有关注者发送通知
共4回答
最佳回答
0
snrtuemcLv8专家互助
发布于2023-2-24 16:05

你怎么设置的，我测试没问题

image.png

image.png
举报 收起评论(5)
  • 小狮子华 小狮子华(提问者) 应该是数值格式才会有问题
    2023-02-24 16:07 
  • snrtuemc snrtuemc 回复 小狮子华(提问者) 你是不是设置小数格式，这个目前无解，帆软自动会四舍五入，换成字符串就不会了
    2023-02-24 16:08 
  • 小狮子华 小狮子华(提问者) 四舍五入是从第几位开始的呢？ 我发现即使我保留10几位小数，结果依然是150
    2023-02-24 16:13 
  • snrtuemc snrtuemc 回复 小狮子华(提问者) 这个不清楚，帆软内部的，上次0.999937变成1，需要咨询帆软技术
    2023-02-24 16:16 
  • 小狮子华 小狮子华(提问者) 回复 snrtuemc 好吧，多谢了
    2023-02-24 16:26 
最佳回答
0
1592Lv6高级互助
发布于2023-2-24 16:03

sql中转换下格式，改成字符串
最佳回答
0
powerliLv4初级互助
发布于2023-2-24 16:06（编辑于 2023-2-24 16:17）

image.png

格式改成文本型

image.png
举报 收起评论(3)
  • 小狮子华 小狮子华(提问者) 很多时候没办法改成文本，比如业务场景需要千分符或者保留几位小数
    2023-02-24 16:10 
  • powerli powerli 回复 小狮子华(提问者) 那你就设置数字型，然后设置你几位小数呀，你要全显示的话就用文本。
    2023-02-24 16:17 
  • 小狮子华 小狮子华(提问者) 回复 powerli 这样的话，业务又会说导出EXCEL怎么不能直接用公式
    2023-02-24 16:26 
最佳回答
0
韩CXLv2见习互助
发布于2023-2-24 16:26（编辑于 2023-2-24 16:27）

目前只能通过SQL把数字转成字符串才不会自动四舍五入了
  • 4关注人数
  • 369浏览人数
    • 最后回答于：2023-2-24 16:27
    活动推荐 更多
    热门课程 更多
    请选择关闭问题的原因
    确定 取消
    隐私政策
    帆软用户服务协议
    联系管理员
    联系帆软
    Copyright© 帆软软件有限公司 版权所有
    苏ICP备18065767号
    返回顶部