Todos os telefones modernos "3G" e "4G" funcionam no Japão com o seu cartão SIM externo. Você não terá problemas.
Embora existam bandas telefônicas no Japão que não existem no exterior e enquanto telefones GSM mais antigos também não funcionem no Japão, contanto que você possa usar 3G ou 4G no seu telefone, ele funcionará no Japão.
Eu estive no Japão há uma semana com um grupo de pessoas do exterior e os dispositivos Nexus, HTC e iPhone trabalham lá, para dados e para voz.