Eu definitivamente não iria preenchê-lo com concreto até que você saiba qual a função do tubo. Se você acha que isso afetará a instalação do seu piso (talvez), eu usaria um material mais facilmente removido para preencher o vazio. Boa sorte ao remover um remendo de concreto sem destruir o tubo se, por algum motivo, você precisasse de um dia.
Alguns materiais de nivelamento de piso formam uma espécie de material emborrachado. Se você tivesse que remover esse material algum dia, você teria uma chance muito maior de removê-lo do que concreto. Eu usei esses materiais para preencher vazios em lajes de concreto para suportar o piso laminado.