A sua mãe pode estar bem.
Provavelmente vai depender se as autoridades do Reino Unido estão cientes de sua permanência anterior. Se eles são, então ela certamente terá "problemas". Se os problemas são suficientes para impedi-la de obter um visto é algo que apenas o UKBC ou alguém com mais experiência do que eu pode responder.
Se eles não estão cientes, então ela pode ser OK, simplesmente porque o pedido de visto de visitante padrão agora só pergunta sobre viagens nos últimos dez anos. Sua mãe pode sinceramente responder "não" à pergunta sobre se ela visitou a Grã-Bretanha naquele tempo. Parece não haver perguntas que exijam que ela divulgue sua história anterior. É claro que se ela foi deportada, removida ou obrigada a deixar a Grã-Bretanha por causa de seu excesso de tempo, então ela terá que declará-la (mas, nesse caso, as autoridades já estão cientes de sua permanência excessiva).
Ela tem duas maneiras de descobrir isso com mais certeza. Uma delas é pedir um visto, responder a todas as perguntas com sinceridade e ver o que acontece. Eu certamente gostaria de ter certeza de que ela forneceu muitas evidências de que ela tem strongs laços com seu país de origem, tanto caso as autoridades estejam cientes de seu período anterior, como também porque, como mãe com várias crianças adultas no Reino Unido, ela de qualquer maneira estar sob suspeita de querer passar do tempo. O outro é consultar um advogado do Reino Unido (cuidado com pessoas que se dizem especialistas nessa área e que não são advogados britânicos). Isso será mais caro do que um aplicativo, mas não corre o risco de piorar o caso dela.
EDITAR
A notícia de que sua mãe é cidadã dos EUA muda um pouco as coisas. Sua mãe tem a opção de visitar o Reino Unido sem visto. Ela pode aparecer sem ter que preencher os formulários ou fazer sua biometria. Isso torna o processo mais simples e barato, mas aumenta um pouco o risco, já que se o Reino Unido a conectar a ela, ela pode negar sua entrada na fronteira, forçando-a a embarcar em um avião de volta para os Estados Unidos. Se ela solicitar um visto (o que você pode fazer, mesmo que você seja elegível para entrar sem um), é praticamente certo que se ela receber um visto, ela será admitida.