Parece que você pode estar atravessando duas histórias.
A From Beyond 'do HP Lovecraft envolve um cientista que cria um dispositivo que estimula os sentidos adormecidos no ser humano mente, permitindo-lhes ver coisas além deste plano de existência. Uma vez capazes de serem vistos, eles também podem ver aqueles que os vêem, e as coisas desçam a partir daí. As criaturas são muito amorfas e assustam o protagonista quando ele as percebe sobrepostas e combinadas às vezes. Você pode lê-lo em Wikisource , gratuitamente. (É muito antigo copyright.)
Suponho que o aspecto da forma geométrica venha de The Hounds of Tindalos de Frank Belknap Long, que envolve viajar de volta no tempo (mentalmente), e criaturas que perseguem o protagonista de volta através de "estranhas geometrias" e, especificamente, podem entrar no mundo através de ângulos. (A eventual vítima tenta se proteger eliminando todos os ângulos da sala em que fica, até que se cansem da perseguição.) Também está em Wikisource , mas eu não tenho certeza do status dos direitos autorais, então não posso garantir que vai durar.
Ambos são parte do mito de Cthulhu, embora o primeiro tenha sido escrito por Lovecraft, e o segundo por Long; você pode muito bem tê-los encontrado na mesma coleção, tho.