Em última análise, este é um maciço mude que a única maneira de responder seria testá-lo e testá-lo muito, muito minuciosamente.
Uma coisa que isso não faria é "forçar" os que estão inclinados a otimizar para parar de fazer isso e interpretar o que você possa imaginar como um personagem "casual". As restrições fazem parte da otimização - se você tem esse limite, então você otimiza encontrando a maneira mais eficiente e confiável de alcançá-lo. Se a super otimização for um problema, a solução devo estar fora de jogo. É um problema de metagame, uma desconexão entre as expectativas e desejos do otimizador e do não otimizador.
Por outro lado, mudar as regras do jogo pode mudar a natureza de um personagem otimizado, e isso pode melhorar seu jogo. O otimizador ainda pode estar otimizando, mas se você definir as regras corretamente (um grande se), você pode fazer com que o caractere ideal seja o tipo de personagem que você deseja do sistema. De fato, isto é, de um modo geral, toda a ponto de balanceamento mecânico - para tentar garantir que as regras sejam definidas de forma que os jogadores que as usem não produzam personagens problemáticos, por mais complicados que sejam. Isso é extremamente difícil de fazer e pode exigir sacrifícios em outras áreas do jogo, se você estiver realmente determinado a fazê-lo, mas pode em geral, considera-se que o D&D 4e chegou bem perto, por exemplo. Mas, novamente, observe as enormes diferenças entre o 4e e as edições anteriores, necessárias para fazer isso.
De qualquer forma, a meu ver, existem basicamente três opções para o limite, e sinto que posso especular - um pouco - sobre como cada uma delas afetaria o jogo. Eu não vou promover nenhuma curva em particular como uma dessas três categorias - isso seria novamente uma questão para grandes quantidades de testes de reprodução. Mas acho justo dizer que qualquer curva se enquadra em uma dessas categorias e acredito que podemos extrapolar alguns dos efeitos disso.
"Muito alto"
Se seu limite é alto o suficiente, é possível que ele não esteja lá - você pode imaginar definir um limite mais alto do que qualquer um realmente é capaz de alcançar, mesmo com a otimização mais severa, quando o limite não tem efeito algum. E nem precisa ser aquele Alto; poderia facilmente ser alto o suficiente para ser maior do que é praticamente relevante para as pessoas que realmente jogam.
Este é o caso mais simples: como o limite não tem efeito significativo, o jogo continua exatamente como acontece agora.
"Muito baixo"
Portanto, existem basicamente duas maneiras pelas quais você pode definir muito baixo: ou "parece" muito baixo para os jogadores em questão, não causando dano suficiente para algum padrão arbitrário de dano que eles têm em sua mente, ou para definição objetiva, suficientemente baixa para que o dano seja inútil e você esteja melhor com abordagens que não sejam danos. Por fim, O Pathfinder provavelmente já está aqui.
Não porque o potencial de dano dos personagens seja baixo - um personagem típico de atacante com otimização meio decente, com o qual eu quero dizer apenas escolher bons talentos e ter uma boa classe, não uma combinação complicada de mecânica complicada, pode facilmente lidar com 150 % do HP esperado dos inimigos em uma rodada. De várias maneiras, se você não são matando coisas de uma só vez, você está abaixo da curva para os atacantes do Pathfinder.
Mas, no entanto, a curva de dano é ainda indiscutivelmente muito baixo. E isso porque as opções sem danos são apenas que bom. Um atacante pode facilmente exagerar em algo em uma rodada, mas isso ainda empalidece em comparação com um lançador de feitiços que pode encerrar metade da parte contrária - se não toda a parte contrária - com uma única ação padrão. E existem opções para fazer isso muito no Pathfinder.
Então, por esse argumento, ter qualquer limite de dano apenas empurra os jogadores para opções de combate não baseadas em dano - e o jogo foi já empurrando-os dessa maneira. Em certo nível, isso apenas pune aqueles que resistem aos incentivos já presentes no jogo para interpretar o tipo de personagem que preferem - nada bom.
"Na medida"
Mas digamos que você esteja preocupado com danos, em particular, e não esteja interessado em considerar a concorrência apresentada por opções que não sejam danos. Digamos, por uma questão de argumento, que você faça muitos testes de jogo e estabeleça uma curva que ofereça uma experiência de combate envolvente, na qual os personagens se sintam eficazes, sem parecer “muito poderoso” para a definição que você deseja. Que efeito isso tem no jogo?
O efeito primário é que os personagens que desejam causar dano agora também precisam fazer coisas que não causam dano; colocar tudo em dano é inútil por causa do limite. Isso não significa que você para de otimizar os danos! Significa apenas que seu objetivo agora é chegar o mais rápido / fácil possível, com o máximo de sobra possível. E, em seguida, aproveitando os recursos restantes, tanto quanto possível, para opções de não-dano que sejam compatíveis com o seu dano, o que basicamente significa que você pode fazer ações que não está usando ou que pode adicionar em cima de seus ataques sem interrompê-los.
Esses personagens, novamente, já são bastante incentivados pelas regras do jogo. E a versatilidade aumentada provavelmente é boa para o jogo.
O problema real é determinar a curva (boa sorte!) E garantir várias opções para alcançá-la e adicioná-la com opções sem danos, para que você não centralize demais os personagens em qualquer direção.
Isto é difícil. Isso é muito, muito difícil. Quase nenhum sistema de jogos conseguiu isso, na minha experiência, incluindo aqueles que tentaram muito, muito difícil fazê-lo. O D&D 4e é provavelmente o mais próximo - e provavelmente vale a pena estudá-lo - mas ainda tinha vencedores claros (por exemplo, lutador, ranger, mago) e perdedores (por exemplo, assassino, caçador, vampiro).
Uma nota sobre o tempo
Um efeito claro de diminuir o dano das pessoas (e, presumivelmente, equilibrar as opções de não dano em torno dos danos reduzidos também) é fazer com que os combates demorem mais. Considere isto muito com cuidado - até os combates decididos nas rodadas 2-3, o que é bastante típico no Pathfinder, faça uma longo hora de brincar. Se você está dobrando ou triplicando isso, também vai estender a quantidade de tempo de jogo que precisa dedicar a um determinado combate. Isso poderia fazer o jogo parecer arrastar muito lentamente - na minha experiência, já existe um risco significativo com o Pathfinder como está.
Também muda o equilíbrio das coisas com uma duração de ~ 1 minuto, já que elas não necessariamente duram uma luta inteira. Essa é uma grande mudança, já que "uma luta" é basicamente o que deve ser uma duração de um minuto do 1 e por que o autor desse efeito escolheu essa duração. De repente, coisas que deveriam durar uma briga não são- e como isso afeta as coisas será muito difícil de prever. Você precisa passar por todos os efeitos do jogo ou apenas fazer muitos testes.
Claro que não importa o que você precisa, realmente, fazer muitos testes para responder a qualquer uma dessas perguntas.