Simplificando: Ele estava desesperado por causa da perda de seu reino, da perda de seus filhos e da (provável) perda de seu direito de governar .

• Ele não queria se tornar escravo de Sauron
• Ele não queria servir Aragorn
• Ele não queria que seu corpo fosse preservado
• Ele não deixou nenhum de seus filhos
• Sua casa tinha efetivamente terminado
• Seu reino estava chegando ao fim

Denethor sabia do desespero de Gondor contra as hordas de Mordor

'Go forth and fight! Vanity. For a little space you may triumph on the field, for a day. But against the Power that now arises there is no victory. To this City only the first finger of its hand has yet been stretched. All the East is moving. And even now the wind of thy hope cheats thee and wafts up Anduin a fleet with black sails. The West has failed. It is time for all to depart who would not be slaves.'

Ele sabia que ia perder se Sauron começasse a guerra aberta. Ele sabia que isso era inevitável. Ele não queria se tornar um escravo de Mordor se Gondor caísse.

'But his wisdom failed; and I fear that as the peril of his realm grew he looked in the Stone and was deceived: far too often, I guess, since Boromir departed. He was too great to be subdued to the will of the Dark Power, he saw nonetheless only those things which that Power permitted him to see. The knowledge that he obtained was, doubtless, often of service to him; yet the vision of the great might of Mordor that was shown to him fed the despair of his heart until it overthrew his mind.'

–Gandalf

Denethor estava em desespero devido à perda de seus herdeiros e ao fim iminente de sua casa

Quando vemos pela primeira vez Denethor após a morte de Boromir ele diz:

'Dark indeed is the hour,' said the old man, 'and at such times you are wont to come, Mithrandir. But though all the signs forebode that the doom of Gondor is drawing nigh, less now to me is that darkness than my own darkness. 

Em segundo lugar, quando Faramir estava morrendo:

And as he (Pippin) watched, it seemed to him that Denethor grew old before his eyes, as if something had snapped in his proud will, and his stern mind was overthrown. Grief maybe had wrought it, and remorse. He saw tears on that once tearless face, more unbearable than wrath.

Denethor started as one waking from a trance, and the flame died in his eyes, and he wept; and he said: 'Do not take my son from me! He calls for me.'

Ele amava muito seus filhos e doía-lhe, um homem velho, ver seu falecido e jovem filho Faramir morrer. Não só isso, a Casa dos Regentes ia acabar com a morte de Denethor.

'I sent my son forth, unthanked, unblessed, out into needless peril, and here he lies with poison in his veins. Nay, nay, whatever may now betide in war, my line too is ending, even the House of the Stewards has failed. 

Denethor simplesmente não queria ser governado por Aragorn

Aragorn tinha o direito de reivindicar o reinado de Gondor . Se ele tivesse reivindicado enquanto Denethor ainda estivesse vivo, Denethor teria sido colocado na "segunda posição mais alta" em Gondor. Denethor não queria que isso acontecesse. Ele amava governar Gondor por seus próprios julgamentos. Ele adorava estar no poder e definitivamente não queria renunciar a isso.

'I would have things as they were in all the days of my life,' answered Denethor, 'and in the days of my longfathers before me: to be the Lord of this City in peace, and leave my chair to a son after me, who would be his own master and no wizard's pupil. But if doom denies this to me, then I will have naught: neither life diminished, nor love halved, nor honour abated.'

Então, quando ele descobriu que um herdeiro de Isildur viveu, ficou muito aborrecido e desapontado, ouso dizer que sentiu mais raiva do que desespero.

'And yet in our speech together I have learned the names and purpose of all thy companions. So! With the left hand thou wouldst use me for a little while as a shield against Mordor, and with the right bring up this Ranger of the North to supplant me.

'But I say to thee, Gandalf Mithrandir, I will not be thy tool! I am Steward of the House of Anarion. I will not step down to be the dotard chamberlain of an upstart. Even were his claim proved to me, still he comes but of the line of Isildur. I will not bow to such a one, last of a ragged house long bereft of lordship and dignity.'

Um pouco de reação exagerada para chamar alguém de "iniciante", não é?

Como bônus, gostaria de mencionar que Denethor sabia quem era Aragorn. Sim, o poderoso Thorongil que "usurpou" o amor de Ecthelion por Denethor em sua juventude não foi outro senão Aragorn. Denethor não queria que Aragorn o governasse e, assim, negar-lhe o prazer de "dominá-lo"; ele se mata.

Denethor não queria uma "morte lenta"

Ele estava orgulhoso. Ele sentiu que era superior a outros homens sendo o regente do rei supremo. Ele acreditava que seu corpo merecia ser queimado, não mantido e preservado ¹ .

'Why? Why do the fools fly?' said Denethor. 'Better to burn sooner than late, for burn we must. Go back to your bonfire! And I? I will go now to my pyre. To my pyre! No tomb for Denethor and Faramir. No tomb! No long slow sleep of death embalmed. We will burn like heathen kings before ever a ship sailed hither from the West. The West has failed. Go back and burn!'

Portanto, com todos esses fatores em jogo, Denethor não sentiu que tinha uma razão para viver mais.

PS: A maioria das citações relevantes que incluímos pode ser facilmente encontrada no capítulo: A Pira de Denethor. O resto está espalhado pelo terceiro livro.

¹ : Parabéns pelo @Quasi_Stomach nos comentários por interpretar isso melhor.