Sqlserver
 sql >> Base de données >  >> RDS >> Sqlserver

Calcul du type de données SQL Server Float vs décimal

Float est précis à 15 chiffres significatifs uniquement (dans SQL Server).

Ceci est démontré par 1.52415693411713 E+171.52415693411713 (15 chiffres) est aussi précis que possible. Le dernier 020... après 152415693411713 avec STR est fabriqué est la résolution de la virgule flottante

Pour garder la précision, n'utilisez pas float. C'est aussi simple que cela. CAST en décimal si vous voulez pour le calcul, mais si vous CAST en arrière pour flotter, vous êtes limité à 15 chiffres

Voir "Ce que tout informaticien devrait savoir sur l'arithmétique en virgule flottante" "