O comportamento correto NÃO é confiar no computador.
Quando eu fizer login em um, se eu não puder inserir um pendrive com minha própria cópia do Firefox para navegação, eu vou carregar o arquivo deles, mas vou ter certeza de que ele está atualizado primeiro para a versão mais recente, para segurança (ou qualquer outro navegador que eles possam usar).
Vou então verificar as tarefas em execução na máquina e ver se alguma coisa parece suspeita. Isso é mais difícil para alguém que não é técnico, pois você pode não saber quais processos fazem parte do Windows, etc., mas é um passo.
Para a sua senha real, se você estiver preocupado com o keylogging, você pode sempre digitar uma letra, depois, em um bloco de notas aberto, digitar um monte de lixo, depois a próxima letra e repetir. A menos que seu keylogger seja sofisticado o suficiente para ser específico do aplicativo, é claro.
Nesse ponto, você desejará considerar a autenticação de dois fatores. Obtenha um SMS ou uma mensagem no aplicativo com um código que você digita (o Gmail e muito mais podem ser configurados para isso) ou um código QR que o seu telefone escaneia na tela (o WhatsApp faz isso).
Se você está ficando realmente chique, pode colocar um sistema operacional em um pendrive, pré-construído com o navegador de sua escolha, etc. e depois inicializar a máquina, mas isso depende de você poder entrar no BIOS, ou que outras restrições de administração colocaram no computador (ou se você pode até mesmo acessar a porta USB).
Depois, limpe o cache, os cookies, etc. do navegador, e tento reiniciar o computador quando saio também, pois alguns cybercafés estão configurados para reinstalar tudo do zero na reinicialização, apagando qualquer sinal de que eu estava lá (Eu já trabalhei em um café internet onde fizemos isso).