Sim, a maioria das variedades de vinagre (todas as que você usaria para preservação, de qualquer forma) tem um sabor ácido, que é transmitido aos alimentos preservados com eles. Além disso, se o vinagre tem um sabor (por exemplo, vinho tinto, xerez, ...), também afetará o sabor.
É meio que inevitável, dado que o vinagre é um ácido diluído. Você pode atenuar isso adicionando sal ou diluindo ainda mais o vinagre com água (embora este último afete as propriedades conservantes do vinagre).
Em qualquer caso, eu não recomendaria usar um método baseado em líquido para preservar o pão, pois ele provavelmente irá promover mais o crescimento do mofo do que inibi-lo, ou arruinar a textura do pão. Você geralmente deseja usar métodos de preservação a seco (por exemplo, congelamento por envolvimento), ou incorporar os conservantes (como um fermento ou vinagre) na receita antes de assar.