754双精度
Go统计分析函数包浮点误差累积控制手册:IEEE 754双精度下12类统计运算误差上界推导
第一章:Go统计分析函数包浮点误 … Go统计分析函数包浮点误差累积控制手册:IEEE 754双精度下12类统计运算误差上界推导Read more
Go调用MATLAB时的浮点精度丢失问题:IEEE 754双精度对齐的7处隐式转换风险点
第一章:Go调用MATLAB浮点 … Go调用MATLAB时的浮点精度丢失问题:IEEE 754双精度对齐的7处隐式转换风险点Read more
Go空间计算错误率高达17.3%?IEEE 754双精度在经纬度运算中的累积误差实测与定点补偿方案
第一章:Go空间计算错误率高达1 … Go空间计算错误率高达17.3%?IEEE 754双精度在经纬度运算中的累积误差实测与定点补偿方案Read more
