Não, por três motivos:
Primeiro, o Rapier afirma especificamente:
You can’t wield a rapier in two hands in order to apply 1½ times your Strength bonus to damage.
Segundo, o Weapon Finesse permite que você use o mod DEX em vez do mod STR em attack . Empunhar uma arma de uma mão em duas mãos permite que você adicione ao seu dano dano . Dois casos completamente diferentes.
Em terceiro lugar, você não pode usar Finesse de Arma ao empunhar armas de duas mãos, ou empunhar uma arma de uma mão em duas mãos. Há alguns itens específicos que mudam isso (iirc, Elven Courtblade de Races of the Wild e o