nw-precision

0.0.1 • Public • Published

precision

version

浮点精度计算处理,用于处理数字计算过程中精度丢失的问题,如:0.1+0.2=0.3,但是在js计算会丢失精度,变成0.30000000000000004

API

times(n1, n2, ...)

精确乘法

divide(n1, n2, ...)

精确除法

plus(n1, n2, ...)

精确加法

minus(n1, n2, ...)

精确减法

round(n, precision=0)

精确四舍五入,第二个参数设置精度

strip(n, precision=12)

数据纠正

getDecimalLength(n)

获取浮点数n的小数点位数

float2Int(n)

将浮点数转换为整数

checkBoundary(n)

检测数字是否超出安全边界,返回true则表示已超过安全数

Readme

Keywords

none

Package Sidebar

Install

npm i nw-precision

Weekly Downloads

1

Version

0.0.1

License

ISC

Unpacked Size

108 kB

Total Files

9

Last publish

Collaborators

  • ansenhuang