decimal 模块:decimal意思为十进制,这个模块提供了十进制浮点运算支持
1.可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确。
2.要从浮点数据转换为Decimal类型
from decimal import *
Decimal.from_float(12.222)
# 结果为Decimal('12.2219999999999995310417943983338773250579833984375')
3.通过设定有效数字,限定结果样式
from decimal import *
getcontext().prec = 6
Decimal(1)/Decimal(7)
# 结果为Decimal('0.142857'),六个有效数字
4.四舍五入,保留几位小数
from decimal import *
Decimal('50.5679').quantize(Decimal('0.00'))
# 结果为Decimal('50.57'),结果四舍五入保留了两位小数
5.Decimal 结果转化为string
from decimal import *
str(Decimal('3.40').quantize(Decimal('0.0')))
# 结果为'3.4',字符串类型
Python3中decimal处理计算精度问题示例
#!/usr/bin/python3 # coding:utf-8 import decimal from decimal import Decimal, getcontext def demo(): """ 取整问题: ROUND_CEILING 总是趋向无穷大向上取整 ROUND_DOWN 总是趋向0取整 ROUND_FLOOR 总是趋向负无穷大向下取整 ROUND_HALF_DOWN 如果最后一个有效数字大于或等于5则朝0反方向取整;否则,趋向0取整 ROUND_HALF_EVEN 类似于ROUND_HALF_DOWN,不过,如果最后一个有效数字值为5,则会检查前一位。 偶数值会导致结果向下取整,奇数值导致结果向上取整 ROUND_HALF_UP 类似于ROUND_HALF_DOWN,不过如果最后一位有效数字为5,值会朝0的反方向取整 ROUND_UP 朝0的反方向取整 ROUND_05UP 如果最后一位是0或5,则朝0的反方向取整;否则向0取整 """ # 1.常规计算 getcontext().prec = 9 r1 = Decimal(1) / Decimal(3) print("r1 ", r1) # r1 0.333333333 # 2.但是getcontext().prec会包含小数点前面的所有长度,当前面长度有变化时并不能固定控制小数点后的位数 r2 = Decimal(10) / Decimal(3) print("r2 ", r2) # r2 3.33333333 # 3.想要固定控制小数点后面的位数则需要使用decimal.quantize(Decimal('0.00000000')),注意不能超过getcontext().prec的位数 r3 = Decimal(1) / Decimal(3) print("r3 ", r3.quantize(Decimal('0.00000000'))) # r3 0.33333333 r4 = Decimal(10) / Decimal(3) print("r4 ", r4.quantize(Decimal('0.00000000'))) # r4 3.33333333 r5 = Decimal(10) / Decimal(str(1.5)) print("r5 ", r5.quantize(Decimal('0.00000000'))) # r5 6.66666667 # 4.向上取整 getcontext().rounding = getattr(decimal, 'ROUND_CEILING') # 总是趋向无穷大向上取整 r6 = Decimal(10) / Decimal(str(1.5)) # r6 6.66666667 print("r6 ", r6.quantize(Decimal('0.00000000'))) r7 = Decimal(10) / Decimal(3) # r7 3.33333334 print("r7 ", r7.quantize(Decimal('0.00000000'))) # 5.向下取整 getcontext().rounding = getattr(decimal, 'ROUND_FLOOR') # 总是趋向无穷大向下取整 r8 = Decimal(10) / Decimal(str(1.5)) # r8 6.66666666 print("r8 ", r8.quantize(Decimal('0.00000000'))) r9 = Decimal(10) / Decimal(3) # r9 3.33333333 print("r9 ", r9.quantize(Decimal('0.00000000'))) if __name__ == '__main__': demo()
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
RTX 5090要首发 性能要翻倍!三星展示GDDR7显存
三星在GTC上展示了专为下一代游戏GPU设计的GDDR7内存。
首次推出的GDDR7内存模块密度为16GB,每个模块容量为2GB。其速度预设为32 Gbps(PAM3),但也可以降至28 Gbps,以提高产量和初始阶段的整体性能和成本效益。
据三星表示,GDDR7内存的能效将提高20%,同时工作电压仅为1.1V,低于标准的1.2V。通过采用更新的封装材料和优化的电路设计,使得在高速运行时的发热量降低,GDDR7的热阻比GDDR6降低了70%。
更新日志
- 魔兽世界奥卡兹岛地牢入口在哪里 奥卡兹岛地牢入口位置一览
- 和文军-丽江礼物[2007]FLAC
- 陈随意2012-今生的伴[豪记][WAV+CUE]
- 罗百吉.2018-我们都一样【乾坤唱片】【WAV+CUE】
- 《怪物猎人:荒野》不加中配请愿书引热议:跪久站不起来了?
- 《龙腾世纪4》IGN 9分!殿堂级RPG作品
- Twitch新规禁止皮套外露敏感部位 主播直接“真身”出镜
- 木吉他.1994-木吉他作品全集【滚石】【WAV+CUE】
- 莫华伦.2022-一起走过的日子【京文】【WAV+CUE】
- 曾淑勤.1989-装在袋子里的回忆【点将】【WAV+CUE】
- 滚石香港黄金十年系列《赵传精选》首版[WAV+CUE][1.1G]
- 雷婷《乡村情歌·清新民谣》1:1母盘直刻[低速原抓WAV+CUE][1.1G]
- 群星 《DJ夜色魅影HQⅡ》天艺唱片[WAV+CUE][1.1G]
- 群星《烧透你的耳朵2》DXD金佰利 [低速原抓WAV+CUE][1.3G]
- 群星《难忘的回忆精选4》宝丽金2CD[WAV+CUE][1.4G]