Seu aquecedor de água a gás precisa de ar para queimar o gás. Sem a abertura, há a possibilidade de o ar ser sugado pela chaminé, o que poderia encher sua casa com monóxido de carbono. Então sim, você precisa da ventilação.
A abertura externa deve ter uma aba / porta que feche quando não houver necessidade de ar de combustão adicional. Se o seu não, substitua-o por outro que o faça.