Mudar o seu passaporte não muda quem você é e não fará diferença nas suas chances de entrar no Reino Unido.
Editar: a seção abaixo não está correta. Como observado nos comentários, você tem um registro de overstay que será considerado em qualquer aplicativo futuro.
[Parece pela sua descrição que você não tem um histórico adverso; quando sua inscrição foi rejeitada, você cumpriu as regras e saiu do Reino Unido.]
Você pode solicitar um visto de visitante e, desde que o escritório do visto considere que atende aos critérios, você receberá um visto de visitante. Você precisará mostrar laços com seu país de origem, como ter um emprego, e ter dinheiro suficiente para pagar sua viagem.