Um bicho-papão provavelmente não reagiria a um dementador

Os dementadores não podem ver

O gatilho para a transformação de um Boggart não é explicitamente declarado, mas parece ser baseado na visão. Boggarts tem uma forma desconhecida quando não está sendo observado, mas isso nunca foi visto por ninguém.

So the boggart sitting in the darkness within has not yet assumed a form. He does not yet know what will frighten the person on the other side of the door. Nobody knows what a boggart looks like when he is alone, but when I let him out, he will immediately become whatever each of us most fears.
_{Harry Potter and the Prisoner of Azkaban}

Se a transformação é baseada no Boggart sendo visto, é impossível para eles se transformarem quando encontrarem um Dementador, já que os Dementadores são cegos.

Os dementadores não podem temer nada

A "arma" primária de um bicho-papão é o medo; Ele se transforma em uma representação de tudo o que sua vítima mais teme. Os dementadores, como seres que causam e se alimentam de medo e desespero, podem não ser capazes de sentir medo por si mesmos. Quando Harry confessa a Lupin que ele estava pensando em um dementador, ao invés de Voldemort, quando a aula foi apresentada a um, Lupin diz que isso mostra que o que Harry mais teme é "medo em si". Se os dementadores não temem nada, não há nada para um Boggart se transformar em.

Boggarts pode não reagir a outras criaturas mágicas em geral

Por uma questão de completude, é possível - embora eu não esteja ciente de nenhuma evidência explícita para apoiá-lo - que os Boggarts apenas visem (parte-) humanos, e portanto não reajam aos Dementadores (ou outras criaturas mágicas) .

Boggarts provavelmente afetam apenas seres humanos, não criaturas ou não-seres.

Boggarts parecem afetar apenas humanos. Eles são descritos como se tornando o pior medo da pessoa que os encontra, o que implica que sua capacidade é específica para as pessoas. Pelo menos algumas criaturas (mágicas e mundanas) provavelmente têm medos, como predadores, mas não há nada mencionado sobre Boggarts se transformando em um Crup ou um Jarvey ao redor de um gnomo.

A Boggart is a shape-shifting creature that will assume the form of whatever most frightens the person who encounters it.
_{^{- Boggart (Pottermore)}}

Boggarts são não-seres que parecem se alimentar de emoções humanas. Como parece haver emoções humanas que os sustentam, é provável que sua capacidade seja especificamente afetar humanos, não necessariamente quaisquer outras criaturas. Além disso, boggarts e dementadores são não-seres, e não está claro se eles têm alguma emoção com a qual outros não-seres poderiam se sustentar.

It is one of the strange non-beings that populate the magical world, for which there is no equivalent in the Muggle realm. Boggarts can be made to disappear, but more Boggarts will inevitably arise to take their place. Like poltergeists and the more sinister Dementors, they seem to be generated and sustained by human emotions.
_{^{- Boggart (Pottermore)}}

Parece muito improvável que os Boggarts tenham um efeito sobre os Dementadores, já que os Dementadores não são seres humanos e, como tal, provavelmente não têm emoções ou medos próprios para serem alimentados - tanto os Boggarts quanto os Dementadores se sustentam em as emoções dos humanos.