Em Tóquio, a área entre a estação Yotsuya e o parque Shinjuku é exatamente assim (um amigo meu viveu lá por um ano) e muito central (a poucas centenas de metros do palácio imperial). Eu não tenho certeza se há um lugar para ficar a curto prazo nessa área embora.
Usando o Google Maps, deve ser fácil encontrar essas áreas em qualquer cidade japonesa, procurando por muitas pequenas casas construídas juntas perto do centro. No entanto, você fala japonês? Caso contrário, será muito difícil realmente "experimentar a vida como um local" de qualquer maneira significativa.