Voir la présentation Présentation de SQL Server Express Local DB Runtime - donne un excellent aperçu.
L'énorme avantage de LocalDB est qu'il s'agit d'un vrai SQL Server - c'est une version spéciale de SQL Server Express, mais il prend essentiellement en charge tout ce que le "vrai" SQL Server a - types de données spatiales, procédures stockées - etc.
SQL Server Compact Edition, d'autre part, est une version très réduite - de nombreuses fonctionnalités et types de données ne sont pas pris en charge. Il est plus petit et plus "agile", mais il manque beaucoup de punch.
Personnellement, je choisirais SQL Server Express avec le runtime LocalDB sur SQL Server CE 4 - à moins que vous n'ayez spécifiquement besoin de la petite taille de SQL Server CE (par exemple sur un appareil mobile).
Voir également une comparaison entre SQL Server CE 3.5, CE 4.0, SQL Server Express 2008 R2 et SQL Server 2012 Express LocalDB sur l'excellent Everything SQL Server Compact d'ErikEJ site internet.
