IEEE 754 的 inf 比较问题

Last Updated on 2020年7月14日 by edimetia3d

首先上结论: 当涉及浮点数比较时,一定要考虑比较符号两侧都是inf的情况.

原因: inf==inf,inf<=inf,inf>=inf 这三个比较都为真(-inf同理),而这种结果可能与我们的期望不符.

解决方法:
1. 如果为真是可以接受的,那么直接使用比较运算符,例如a<=b
2. 如果为真是不可以接受的,那么应当使用作差,例如(a-b)<=0, 这种情况下,当a和b都为inf时,inf之间的运算会输出NaN,从而导致比较结果为false

例如,我有这样一个应用场景:

有射线R和两个平面S0及S1,我们需要求射线R与平面S0的交点p0,以及射线R与平面S1的交点P1. 且要求p0不能比p1离射线起点更远(可以重合)

假如我们用直线的参数方程来描述交点,显然,上面的目标很容易用 t0<=t1 来描述.

此时就可能出现 inf<=inf 的问题. 在我们的场景中, 这就意味着直线和两个平面都没有相交, 对我们解决的问题而言, 这种都不相交的情况是不可接受的, 后续的算法无法处理这种情况, 因此,比较结果应当是false才行.