A resposta simples é que você não faz a transição aqui. Qualquer tipo de transição que você tente colocar nessa borda será tão desajeitada ou até mais desajeitada do que a transição já ruim.
Eu tentaria pegar um pouco de compensado fino e colocá-lo sobre o vinil existente e tentar igualar a altura dessa maneira. Você precisará de um metal L para proteger a borda do vinil ao lado da peça.
(Na verdade, eu nunca faria isso. Eu colocaria o azulejo ao lado do azulejo existente ou usaria o piso inteiro. Acho que você está causando mais trabalho tentando fazer o trabalho mais rápido.)