Versátil apenas altera os dados de dano que você usa, e a habilidade só altera o modificador de habilidade que você usa.
Olhando para as definições de finesse e versátil, temos:
Finesse: When Making an Attack with a finesse weapon, you use your choice of your Strength or Dexterity modifier for the Attack and Damage Rolls. You must use the same modifier for both rolls.
Versatile: This weapon can be used with one or two hands. A damage value in parentheses appears with the property—the damage when the weapon is used with two hands to make a melee Attack.
Nada nas regras diz explicitamente que uma arma não pode ter as duas propriedades e, nesse caso, as regras não se contradizem.
Com efeito, essa arma permitiria que você a usasse com duas mãos para alterar o tipo de dano que você lança e também permite que você escolha entre Destreza ou Força para seus modificadores de dano e estáticos.
Existe até um exemplo desse tipo de arma no SRD 5e: The Sun Blade
This item appears to be a longsword hilt. While grasping the hilt, you can use a bonus action to cause a blade of pure radiance to spring into existence, or make the blade disappear. While the blade exists, this magic longsword has the finesse property (emphasis mine)
Embora o Sun Blade seja um item mágico raro, isso prova que o conceito de uma arma versátil e requintada é possível e pretendido.