Você decide quando lança o feitiço, não depois de esperar para ver se ele acerta.
Primeiro, o feitiço diz explicitamente (ênfase minha):
When you cast a wizard spell of 1st through 5th level that deals damage, you can deal maximum damage with that spell.
Isso significa que você pode optar por canal excedente no elenco de um feitiço de mago do nível 1st-5th que causa dano como parte de seu efeito, não que você opte por Overchannel quando um feitiço de mago do nível 1st-5th que você lançar causa dano.
Se o Overchannel permitisse que você decidisse depois de atingir ou depois de causar dano, seria redigido de maneira semelhante ao recurso Divindade do Canal: Ira Destrutiva do Tempest Cleric:
When you roll lightning or thunder damage, you can use your Channel Divinity to deal maximum damage, instead of rolling.
No tópico "que causa dano"
Para esclarecer a ambiguidade de como "quando você lança um feitiço que causa dano" deve ser interpretado, observe o texto do recurso "Coração da tempestade" do Feiticeiro da Tempestade:
In addition, whenever you start casting a spell of 1st level or higher that deals lightning or thunder damage, stormy magic erupts from you.
Se "isso causa dano" significava "quando o feitiço que você está lançando causa dano", o Coração da Tempestade nunca seria acionado, pois nenhum feitiço causa dano quando você o inicia. Portanto, "que causa dano" deve ser uma propriedade do próprio feitiço (o que significa que ele pode causar dano como parte de seu efeito), ao invés de ser desencadeado apenas se um lançamento específico causar dano (ao acertar com uma jogada de ataque, por exemplo).