Sqlserver
 sql >> Base de données >  >> RDS >> Sqlserver

perte d'échelle lors du calcul

Les règles pour decimal en decimal la conversion pour la multiplication et la division sont décrites dans BOL .

mais ne précise pas exactement comment une telle troncature est effectuée. Ceci est documenté ici . Cependant, il est parfois plus simple d'utiliser des essais et des erreurs !

Les moulages intermédiaires suivants vous donnent le résultat souhaité. Pouvez-vous vivre avec ceux-là ?

DECLARE @var NUMERIC(19,8)
DECLARE @a NUMERIC(19,8)
DECLARE @b NUMERIC(19,8)

SET @var = -413.72063274
SET @a   = 651.00000000
SET @b   = 1000.00000000

DECLARE @v SQL_VARIANT 
SET @v =  CAST(@a/@b AS NUMERIC(24,10))* CAST(@var AS NUMERIC(23,8))

SELECT    CAST(SQL_VARIANT_PROPERTY(@v, 'BaseType') AS VARCHAR(30)) AS BaseType,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Precision') AS INT) AS PRECISION,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Scale') AS INT) AS Scale