Fundamentalmente, trata-se de aprender as expectativas e os limites do jogador. Você mesmo disse aqui:
The problem is that I'm afraid if I so much as make an intimidate check against a player, my friends are not only going to stop being my friends, they're going to flat-out crucify me. How, as a DM, can I run a game that includes fear effects, confusion effects, charms, and compulsions without my friends hating me for controlling them?
Há apenas uma maneira real de responder isso.
Pergunte-lhes
Em que tipo de jogo eles querem jogar? É aquele em que efeitos como o estupro mental estão em jogo, ou um sem qualquer forma de mente que afeta feitiços, ou algo entre os dois? Você tem medo de usá-lo porque não sabe, e a única maneira de superar esse medo é conversar com eles sobre isso.
Talvez eles realmente odeiem esse tipo de coisa. Se for esse o caso, você deve considerar seriamente evitar o uso de tal efeito (deixar seus jogadores desconfortáveis com algo assim não ajudará seu jogo). Talvez eles estejam perfeitamente bem com isso. Não é algo que possamos responder por você, porque não os conhecemos. Com esse tipo de efeito, há muitas reações diferentes dos jogadores.
Poderia ser tão simples quanto sentar em grupo, explicando o que a violação mental faz, e então perguntar se eles ficariam bem com esse efeito sendo usado no jogo. Se eles disserem que eles têm problemas de caráter com isso, então isso responde à sua pergunta. Se eles disserem que está bem, isso provavelmente também responde à sua pergunta, desde que eles não estejam apenas dizendo isso para se conformarem. Encorajaria qualquer pessoa com um problema a falar em particular se não se sentir confortável ao fazê-lo no ambiente de grupo. Você também pode pedir a eles um por um via e-mail ou mensagens, se você tiver jogadores tímidos para falar na frente do grupo.
Existem ferramentas para ajudar nessa conversa, e as respostas desta pergunta podem ajudá-lo com isso. Eu sugiro que você dê uma olhada lá para dicas.
Experiência pessoal
Com meus jogadores, eu nunca usaria estupro mental. Eles investem muito tempo e esforço em seus personagens e se apegam a eles. Se eles morrem em combate heróico? OK. Se o jogador faz algo tolo e isso os mata? Eles tendem a aceitar isso com o tempo. (Um dos meus jogadores quer que eu tente matá-lo, porque ele quer que seja um desafio real, então o triunfo significa muito mais).
Mas o que o estupro mental faz é mais insidioso, e altera seu caráter cuidadosamente criado de maneiras que podem facilmente tornar não-divertido jogá-lo. Eu não vou deliberadamente fazer o jogo não ser divertido para os meus jogadores, então eu simplesmente não vou usá-lo.Eu vou usar feitiços como charme, pois esse é um efeito temporário que pode ser divertido de interpretar, e meus jogadores aceitam isso prontamente. Eles também são conhecidos por usá-lo.
Já joguei em outros jogos com jogadores que não teriam problemas com isso. Isso realmente depende do jogador.