Um 20 natural é automaticamente um sucesso, e ameaça ser um crítico, então você re-rola para confirmar o crítico (para o qual ele tem que ser maior que o inimigo AC para um máximo de 20).
Agora, se você estiver empunhando um florete afiado, você ameaça um ponto crítico entre 15 e 20 pontos na jogada de ataque. E se isso não fosse um sucesso?
Por exemplo, você rola 15, os bônus de ataque são +4, os inimigos AC são 20. Se fosse um teste normal que seria definitivamente uma falta, mas era um teste potencialmente crítico; ainda não foi um natural 20. Acerta?
Não, não acerta. Do Documento de referência do Pathfinder (grifo meu):
Increased Threat Range: Sometimes your threat range is greater than 20. That is, you can score a threat on a lower number. In such cases, a roll of lower than 20 is not an automatic hit. Any attack roll that doesn't result in a hit is not a threat.
Para ameaçar um acerto crítico com o rapier, você precisa rolar 15 ou mais e para acertar normalmente.
Tags pathfinder critical-hit