Não há regras oficiais sobre ganchos.
Como você disse, nem o PHB nem o DMG dizem nada sobre o uso de ganchos, então é totalmente com o Mestre.
Existem muitas maneiras diferentes de determinar isso (teste de ataque à distância? Verificação de Destreza?), mas eu pessoalmente gosto de simplesmente usar as regras 3.5 para isso (d20SRD):
OSecuring a grappling hook requires a Use Rope check (DC 10, +2 for every 10 feet of distance the grappling hook is thrown, to a maximum DC of 20 at 50 feet). Failure by 4 or less indicates that the hook fails to catch and falls, allowing you to try again. Failure by 5 or more indicates that the grappling hook initially holds, but comes loose after 1d4 rounds of supporting weight. This check is made secretly, so that you don’t know whether the rope will hold your weight.
5e não tem uma verificação de corda, mas você pode substituí-la por uma verificação de destreza. Curiosamente, o escalonamento DC corresponde muito bem à precisão limitada do 5e, ao contrário do resto do sistema.
Quanto a destacar um gancho, também há muitas opções. Um Rope of Climbing poderia ajudar, ou você poderia usar o Mage Hand para desalojar manualmente o gancho, por exemplo.