Esta é uma questão subjetiva, mas idealmente qualquer tinta que não esteja bem ligada deve ser removida. Eventualmente, ele vai se desfazer também.
Dito isto, há sempre um ato de equilíbrio a ser feito. Você terá que avaliar a situação e proceder de acordo. Pode não ser economicamente viável remover toda a tinta, dependendo da vida útil pretendida do revestimento, etc.