Não, a criatura ainda perde a cabeça
O efeito da espada vorpal é explícito:
...and roll a 20 on the attack roll, you cut off one of the creature's heads.
Este texto na descrição do item implica que o efeito de decapitação é completamente distinto do efeito de um acerto crítico. Reduzir o resultado do ataque de um acerto crítico para um acerto regular não muda o fato de que o ataque atingiu um valor natural de 20. Então, a armadura adamantina não impedirá a espada de decapitá-lo.
Outras armas com palavras semelhantes se comportam da mesma forma
Itens como espada de nitidez e mace de smiting tem um texto similar. Como tal, eles funcionam de forma idêntica. Se você rolar um 20 natural em sua jogada de ataque, você aplicará os efeitos extras do item, independentemente de o resultado ser ou não um acerto crítico.
No entanto, os efeitos que se aplicam "ao marcar um acerto crítico" são negados
Por exemplo: A descrição de nove vidas stealer declara:
If you score a critical hit against a creature that has fewer than 100 hit points, it must succeed on a DC 15 Constitution saving throw...
Neste caso, quando o ataque faz um acerto crítico contra você, o acerto crítico se torna um golpe mundano. Então, o efeito extra desse tipo de arma não se aplica, já que o ataque não conseguiu um acerto crítico.