[S]omeone at the airline told her that because she touched us territory with the 3 hour layover done in the us, she is still under ESTA laws and needs to leave Mexico too, before 90 days instead of 180.
Isso não está correto. A regra do dia 90 para o Programa de Isenção de Visto diz respeito apenas a viajantes que desejam voltar a entrar nos EUA dentro de 90 dias após a entrada. Os oficiais de fronteira podem readmiti-los pela duração do período inicial do dia 90, em vez de conceder um novo período do dia 90. Um viajante que tentar entrar novamente nos EUA após o término do período do dia 90 somente poderá receber um novo período do dia 90 (ou, é claro, sua entrada negada). Como seu plano é retornar ao Reino Unido sem trânsito pelos EUA, você não precisa se preocupar com isso.
Em nenhum caso a lei dos EUA pode controlar quando alguém no México é obrigado a deixar o México, é claro, e os EUA não acompanharão as viagens da sua noiva depois que ela voar para o México. Em particular, não saberá quando ela sair do México.
Além disso, a resposta para sua pergunta…
[Will] going back to the uk in a direct flight, even after her 90 days of Esta are done, … reset her clock and allow her to enter the us in the distant future[?]
… é sim. O único problema em potencial seria se ela chegasse aos EUA do México, Canadá ou Caribe, mas se isso realmente acontecer no "futuro distante", a chance de esse problema é praticamente nula.
Para referência, o regulamento que cria a regra "relógio não zerando" é 8 CFR 217.3 (b):
(b) Readmission after departure to contiguous territory or adjacent island. An alien admitted to the United States under this part may be readmitted to the United States after a departure to foreign contiguous territory or adjacent island for the balance of his or her original Visa Waiver Pilot Program admission period if he or she is otherwise admissible and meets all the conditions of this part with the exception of arrival on a signatory carrier.