您好, 欢迎来到 !    登录 | 注册 | | 设为首页 | 收藏本站

Java中的半精度浮点

Java中的半精度浮点

您可以使用Float.intBitsToFloat()Float.floatToIntBits()在原始浮点值之间进行转换。如果您可以采用截断的精度(而不是舍入),那么只需少量的移位就可以实现转换。

我现在付出了更多的努力,结果却没有一开始就那么简单。现在,该版本已经在我能想到的各个方面进行了测试和验证,我非常有信心它可以为所有可能的输入值产生准确的结果。它支持任一方向上的精确舍入和次正规转换。

// ignores the higher 16 bits
public static float toFloat( int hbits )
{
    int mant = hbits & 0x03ff;            // 10 bits mantissa
    int exp =  hbits & 0x7c00;            // 5 bits exponent
    if( exp == 0x7c00 )                   // NaN/Inf
        exp = 0x3fc00;                    // -> NaN/Inf
    else if( exp != 0 )                   // normalized value
    {
        exp += 0x1c000;                   // exp - 15 + 127
        if( mant == 0 && exp > 0x1c400 )  // smooth transition
            return Float.intBitsToFloat( ( hbits & 0x8000 ) << 16
                                            | exp << 13 | 0x3ff );
    }
    else if( mant != 0 )                  // && exp==0 -> subnormal
    {
        exp = 0x1c400;                    // make it normal
        do {
            mant <<= 1;                   // mantissa * 2
            exp -= 0x400;                 // decrease exp by 1
        } while( ( mant & 0x400 ) == 0 ); // while not normal
        mant &= 0x3ff;                    // discard subnormal bit
    }                                     // else +/-0 -> +/-0
    return Float.intBitsToFloat(          // combine all parts
        ( hbits & 0x8000 ) << 16          // sign  << ( 31 - 15 )
        | ( exp | mant ) << 13 );         // value << ( 23 - 10 )
}
// returns all higher 16 bits as 0 for all results
public static int fromFloat( float fval )
{
    int fbits = Float.floatToIntBits( fval );
    int sign = fbits >>> 16 & 0x8000;          // sign only
    int val = ( fbits & 0x7fffffff ) + 0x1000; // rounded value

    if( val >= 0x47800000 )               // might be or become NaN/Inf
    {                                     // avoid Inf due to rounding
        if( ( fbits & 0x7fffffff ) >= 0x47800000 )
        {                                 // is or must become NaN/Inf
            if( val < 0x7f800000 )        // was value but too large
                return sign | 0x7c00;     // make it +/-Inf
            return sign | 0x7c00 |        // remains +/-Inf or NaN
                ( fbits & 0x007fffff ) >>> 13; // keep NaN (and Inf) bits
        }
        return sign | 0x7bff;             // unrounded not quite Inf
    }
    if( val >= 0x38800000 )               // remains normalized value
        return sign | val - 0x38000000 >>> 13; // exp - 127 + 15
    if( val < 0x33000000 )                // too small for subnormal
        return sign;                      // becomes +/-0
    val = ( fbits & 0x7fffffff ) >>> 23;  // tmp exp for subnormal calc
    return sign | ( ( fbits & 0x7fffff | 0x800000 ) // add subnormal bit
         + ( 0x800000 >>> val - 102 )     // round depending on cut off
      >>> 126 - val );   // div by 2^(1-(exp-127+15)) and >> 13 | exp=0
}

与 @H_419_18@本书 相比,我实现了两个小的扩展,因为16位浮点的通用精度相当低,与较大的浮点类型(通常由于精度高而通常不会注意到)相比,这可能使浮点格式的固有异常在视觉上可以感知。

一个toFloat()函数中的这两行:

if( mant == 0 && exp > 0x1c400 )  // smooth transition
    return Float.intBitsToFloat( ( hbits & 0x8000 ) << 16 | exp << 13 | 0x3ff );

字体大小的正常范围内的浮点数采用指数,因此采用数值大小的精度。但这并不是一个平稳的采用,它是分步进行的:切换到下一个更高的指数将导致一半的精度。现在,对于尾数的所有值,精度都保持不变,直到下一次跳转到下一个更高的指数为止。上面的扩展代码通过返回此特定的半浮点值在覆盖的32位浮点范围的地理中心的值,使这些过渡更加平滑。每个正常的半浮点值都精确映射到8192个32位浮点值。返回值应该恰好在这些值的中间。但是在半浮点指数的过渡处,较低的4096值的精度是较高的4096值的两倍,因此覆盖的数字空间仅为另一侧的一半。所有这8192个32位浮点值都映射到相同的半浮点值,因此,无论将8192中的哪一个转换为32位,然后将其转换回32位,都将产生相同的半浮点值@H_419_18@选择了中间的 32位值。扩展现在导致在过渡像更平滑的半一步SQRT(2)的一个因素,因为在正确的显示 @H_419_18@图象 下面而左 @H_419_18@画面 应该以可视化的尖锐步骤由两个因素不用抗混叠。您可以安全地从代码删除这两行以获得标准行为。

covered number space on either side of the returned value:
       6.0E-8             #######                  ##########
       4.5E-8             |                       #
       3.0E-8     #########               ########

第二个扩展是在fromFloat()函数中:

    {                                     // avoid Inf due to rounding
        if( ( fbits & 0x7fffffff ) >= 0x47800000 )
...
        return sign | 0x7bff;             // unrounded not quite Inf
    }

此扩展通过保存一些32位值形式(提升为Infinity)来稍微扩展半浮点格式的数字范围。受影响的值为那些没有四舍五入而小于Infinity的值,仅由于四舍五入而变为Infinity的值。如果您不需要此扩展名,则可以安全地删除上面显示的行。

我试图尽可能地优化fromFloat()函数中正常值的路径,由于使用了预先计算和未移位的常量,因此使其可读性降低了。我没有在’toFloat()’上投入过多的精力,因为无论如何它都不会超出查找表的性能。因此,如果速度真的很重要,则可以toFloat()仅使用该函数填充0x10000个元素的静态查找表,然后使用该表进行实际转换。对于当前的x64服务器VM,这大约快3倍,对于x86客户端VM,这大约快5倍。

我在此将代码放入公共领域。

java 2022/1/1 18:15:39 有484人围观

撰写回答


你尚未登录,登录后可以

和开发者交流问题的细节

关注并接收问题和回答的更新提醒

参与内容的编辑和改进,让解决方法与时俱进

请先登录

推荐问题


联系我
置顶