计算时出现水垢损失
|
我正在执行计算,但没有得到我期望的答案。我在计算时损失了一些规模。
计算公式为:651/1000 * -413.72063274 = -269.33213191(至8 d.p)
在SQL Server中,我这样做:
declare @var numeric(28,8)
declare @a numeric(28,8)
declare @b numeric(28,8)
set @var = -413.72063274
set @a = 651.00000000
set @b = 1000.00000000
select CAST((@a/@b) * @var as numeric(28,8)) as result_1
, CAST(CAST(@a as numeric(28,8))
/CAST(@b as numeric(28,8)) as numeric(28,8))
*CAST(@var as numeric (28,8)) as result_2
结果是
result_1:-269.33213200(正确为6dp)
result_2:-269.332132(正确为6dp)
如何获取查询以返回:-269.33213191(正确为8dp)?
没有找到相关结果
已邀请:
3 个回复
田损比报
编辑 另一方面,在不使用乘法器的情况下,跟随保持了其精度
筷啸够对铅
队辅坟阮阶