Taiwan quase não tem embaixadas , tendo perdido a batalha com o PRC pelo reconhecimento (com pouquíssimas, principalmente insignificantes , exceções). O que geralmente está presente são escritórios que fornecem serviços consulares com nomes como "Centro Econômico e Cultural de Taipei". A China (República Popular da China) não tem nada a ver com os vistos da República da China (Taiwan), portanto não se preocupe em entrar em contato com a embaixada ou consulado.
Aqui é um link para a página do governo do ROC em relação aos cidadãos do Sri Lanka.
Como Taiwan parece não ter representação no Sri Lanka, você provavelmente terá que enviar seu pedido e seu passaporte para Delhi ou outro lugar.