O que acontecerá é que você fará o Escoffier chorar. Nada mais.
Em um tom mais sério, a nomeação de molhos é um pouco arbitrária / tradição dirigida. Existem cinco molhos-mães, sendo o holandês a única emulsão entre eles. Todos os outros molhos são derivados para eles, tornando a Maionese um derivado Hollandaise. Existem centenas de molhos derivados e a diferença é sempre pequena. O uso de manteiga em vez de óleo (ou o contrário) seria suficiente para que o resultado fosse considerado um molho completamente novo, nem maionese nem molho holandês. Embora seja uma ocorrência comum em cozinhas domésticas, não acho que exista um nome oficial para essas versões comutadas. Alguns cozinheiros ainda usam o nome Maionese para uma emulsão de óleo de água-gema pura, sem a mostarda e o vinagre (por exemplo Ruhlman na Ratio).
Tecnicamente, não há razão para não fazer isso. A ligeira diferença de relação água para gordura quando você está usando manteiga não deve importar. Uma gema pode emulsionar muita gordura, e a quantidade de gordura que você usa por uma parte de água é principalmente uma questão de gosto. Então você pode ir em frente e substituir a manteiga em uma receita de maionese. O sabor será diferente, mas você será tão bem sucedido quanto com uma maionese normal. Apenas lembre-se de servi-lo quente, eu esperaria que endurecer um pouco quando resfriado.