Vous pouvez utiliser des guillemets littéraux :
stmt := q'[insert into MY_TBL (Col) values('ER0002')]';
La documentation pour les littéraux peut être trouvée ici.
Vous pouvez également utiliser deux guillemets pour désigner un seul guillemet :
stmt := 'insert into MY_TBL (Col) values(''ER0002'')';
Le mécanisme de citation littérale avec la syntaxe Q est plus flexible et lisible, IMO.