标签：浮点数

共 4 篇相关文章

IT 累计浏览 2,167

每一个JavaScript开发者应该了解的浮点知识

这篇讲的是JavaScript开发者几乎都会遇到的“经典困惑”：为什么`0.1 + 0.2`的结果不等于`0.3`？文章从最基础的数字表示出发，解释了问题的根源。作者指出，我们日常使用的十进制小数，在计算机内部是以二进制浮点数存储的。例如十进制的`0.1`，在二进制中是一个无限循环小数（`0.00110011...`）。由于计算机存储位数有限（JavaScript使用IEEE 754双精度，尾数位为52位），必须进行舍入，这就带来了无法消除的精度误差。文章进一步拆解了IEEE 754标准的64位结构：1位符号位、11位指数位和52位尾数位。正因如此，`0.1 + 0.2`在二进制层面的计算结果并非精确的`0.3`，而是带有微小误差，导致直接比较返回`false`。面对这个“数字表示的固有缺陷”，作者不建议自己发明轮子。他提到，一个常见的思路是将数值存储为整数（如将美元转为美分），但这在处理非十进制货币时并不通用。更推荐的方案是借助专门的数学库（如math.js）来处理需要精确计算的场景。对于格式化显示，`toPrecision()`和`toFixed()`方法有用，但需牢记它们返回的是字符串，不能直接用于后续的算术运算。

IT 累计浏览 3,799

编写安全代码：小心使用浮点数

这篇讲的是浮点数在实际编码中潜藏的风险，以及如何写出更安全的代码。作者从浮点数的二进制表示原理出发，解释了为什么像0.1这样的简单小数在计算机里无法被精确存储，进而可能引发比较判断失效、累加误差扩大等隐蔽问题。文章重点对比了浮点数与整数（或高精度库）在财务计算等场景下的差异，指出在需要精确值的领域（如金额处理、循环计数）盲目使用浮点数是常见错误根源。同时，它也分析了浮点数在科学计算等可接受误差范围的场景下仍然适用，但必须理解其误差传播机制。作者最终给出了一系列实用建议：比如避免用==直接比较浮点数，改用范围判断；在关键业务中考虑使用定点数或Decimal类型；以及如何通过单元测试捕捉由浮点运算引发的边界问题。整篇文章将底层原理与编码实践紧密结合，为开发者提供了一份规避常见陷阱的清晰指南。

IT 累计浏览 2,779

关于PHP浮点数你应该知道的(All ‘bogus’ about the float in PHP)

这篇从PHP的弱类型特性切入，剖析了浮点数处理的底层机制。文章首先展示了PHP内部如何用zval结构来承载所有变量——它就像一个“万能容器”，通过type字段标识实际存储的是整数、浮点还是其他类型，正是这种设计催生了无缝的隐式类型转换。深入到浮点数本身，文章揭示了其二进制表示与十进制小数之间的天然鸿沟。比如开发者熟悉的“0.1 + 0.2 ≠ 0.3”问题，根源就在于计算机无法精确表示某些小数。更关键的是，文章指出了在PHP中进行浮点数比较时可能遇到的“陷阱”，直接使用==运算符可能导致非预期的结果，因为引擎会先进行宽松的类型转换。作者进一步解释了PHP内部如何通过zval的type字段来管理这些转换，以及为什么某些看似正确的代码会产生“虚假”的错误结果。文章不仅分析了问题的成因，也给出了实践中的规避建议，比如使用高精度计算函数或设定误差范围（epsilon）进行比较。通过拆解zval结构和浮点数的二进制特性，这篇文章帮助开发者理解那些“莫名其妙”的浮点数问题背后的原理，从而在编写涉及金额计算或科学计算的PHP代码时，能更加稳健可靠。

IT 累计浏览 3,895

[python]定制JSON中的浮点数格式

这篇讲的是Python中一个相当恼人但常被忽视的问题：当你用 `json.dumps` 将列表或字典序列化时，其中的浮点数往往会变成一堆冗长的小数。作者从这个具体的痛点出发，演示了如何通过 `json.dumps` 的 `cls` 参数传入自定义的编码器类，来精确控制浮点数的输出格式。文章的核心对比在于默认行为与定制化后的效果。默认情况下，`0.1` 可能被序列化为 `0.1`，但 `0.333` 却变成了 `0.33300000000000002`，这种不一致性会带来困扰。通过继承 `json.JSONEncoder` 并重写 `encode` 方法，你可以统一指定格式，比如将所有浮点数限制在两位小数：`0.333` 就会变成 `0.33`。这种技巧在处理价格、坐标等对精度格式有明确要求的场景下非常实用，能让生成的JSON既整洁又可靠。