J'avais un problème similaire. J'utilise Spring Boot 1.5.9 et postgres 9.6, data.sql avec inserts. L'encodage sur data.sql était UTF-8, mais après le démarrage de l'application, dans DB se trouvaient des symboles spéciaux à la place des lettres russes.
spring.datasource.sql-script-encoding= UTF-8
Cette propriété dans application.properties a aidé.
Toutes les propriétés responsables de DB :
spring.datasource.jndi-name=java:/PostgresDS
spring.jpa.properties.hibernate.default_schema=my_scheme_name
spring.jpa.hibernate.ddl-auto = update
spring.jpa.show-sql = false
spring.jpa.properties.hibernate.dialect = org.hibernate.dialect.PostgreSQLDialect
spring.datasource.continue-on-error=true
spring.datasource.sql-script-encoding= UTF-8
