Le problème était que mon hôte est l'application heroku, mais les demandes provenaient du domaine personnalisé.
Pour résoudre :
heroku config:set RAILS_HOST "http://www.example.com"
Et puis dans production.rb :
config.action_cable.url = "wss://#{ENV['RAILS_HOST']}/cable"