Question 1 :Vous obtenez des caractères "comme le chinois" car vous insérez une valeur varbinary renvoyée par HASHBYTES dans une colonne nvarchar. SQL Server essaie donc d'interpréter les octets comme des points de code Unicode (caractères).
Question 2 :Non pris en charge avant SQL Server 2012 - voir SQL Server 2008 R2 HASHBYTES SHA2 renvoie null