Provavelmente não fará nenhuma diferença notável.
Normalmente, a parte inferior da parte do tanque de água é isolada, se não estiver em contato com o chão, se houver combustível (há um queimador entre o fundo do tanque e o piso e uma quantidade substancial de espaço ocupado pela montagem do queimador.) Eu salvaria a idéia até que você estivesse substituindo o aquecedor de água, se você quiser fazê-lo.
É mais provável que a temperatura da água de entrada seja menor, assim como a perda de calor dos tubos sendo maior. Embora a água dos poços profundos seja bastante invariante, a cidade e outros sistemas de água encanada pouco variam sazonalmente.