O que aconteceu com o Livro de Mazarbul?

Nunca é discutido depois disso, em quaisquer escritos conhecidos.

Uma possibilidade é que Gimli o tenha deixado no Parth Galen, quando Aragorn diz (ênfase minha):

'I will follow the Orcs,' [Aragorn] said at last. 'I would have guided Frodo to Mordor and gone with him to the end; but if I seek him now in the wilderness, I must abandon the captives to torment and death. My heart speaks clearly at last: the fate of the Bearer is in my hands no longer. The Company has played its part. Yet we that remain cannot forsake our companions while we have strength left. Come! We will go now. Leave all that can be spared behind! We will press on by day and dark!'

^{The Two Towers Book III Chapter 1: "The Departure of Boromir"}

No entanto, como você diz, isso parece improvável. Mais plausível é que Gimli eventualmente o levou de volta a Erebor, no qual provavelmente ocupou uma prateleira de biblioteca pelas próximas centenas (ou mil) anos.

E o ensaio "Of Dwarves and Men", escrito em 1969 e publicado em The Peoples of Middle-earth , diz-se ter sido parcialmente baseado no Livro (ênfase minha):

This long essay has no title, but on a covering page my father wrote: An extensive commentary and history of the interrelation of the languages in The Silmarillion and The Lord of the Rings, arising from consideration of the Book of Mazarbul, but attempting to clarify and where necessary to correct or explain the references to such matters scattered in The Lord of the Rings, especially in Appendix F and in Faramir's talk in LR II².

^{The History of Middle-earth XII The Peoples of Middle-earth Part 2: "Late Writings" Chapter X: "Of Dwarves and Men"}

¹ Eles não foram, mas foram publicados em Imagens por J.R.R. Tolkien em 1979

² Christopher Tolkien observa que "A fala de Faramir" refere-se à história abreviada de Farmir de Gondor e Rohan, no Livro IV, Capítulo 5: "A Janela no Oeste"