Em alguns casos (não em todos, dependendo do tipo de crimpagem), você pode usar um alicate (ou um alicate de travamento, como torno de aperto) para apertar um crimp "oval" ou "achatado" no eixo maior, e isso abrirá o buraco o suficiente para que você possa escorregar os fios. Se não, sim, você tem que cortá-los, de acordo com o comentário que @Steve deve fazer em uma resposta.
Se isso funcionar, você ainda deve planejar novos conectores para qualquer novo trabalho de fiação, pois os conectores usados de "recrimeamento" não são muito confiáveis.