Solution de contournement (merci à ce commentaire !)
COPY <tablename> FROM <filename> WITH CSV DELIMITER E'\t' QUOTE E'\b' NULL AS '';
Donc, en gros, spécifier un guillemet qui ne devrait jamais être dans le texte, mais c'est assez moche.
Je préférerais de loin qu'il y ait en fait un moyen de désactiver complètement le traitement des devis.