Você pode usar o Total Defense fora de combate?

Sim:

Total Defense

You can defend yourself as a standard action. You get a +4 dodge bonus to your AC for 1 round. Your AC improves at the start of this action. You can’t combine total defense with fighting defensively or with the benefit of the Combat Expertise feat (since both of those require you to declare an attack or full attack). You can’t make attacks of opportunity while using total defense.

^{(Fonte: SRD, Ações em Combate)}

Dado que é uma ação padrão, a verdadeira questão é: abrir uma porta é um movimento ou uma ação padrão?

Manipulate an Item

In most cases, moving or manipulating an item is a move action.

This includes retrieving or putting away a stored item, picking up an item, moving a heavy object, and opening a door. Examples of this kind of action, along with whether they incur an attack of opportunity, are given in Table: Move Actions.

^(Ibidem)

Isso diz especificamente que abrir uma porta é um tipo de manipulação de item e que é uma ação de movimentação. Como você normalmente recebe uma ação padrão e uma ação de movimento, eu diria que sim.

Eu discordo da premissa

We are not in combat yet.

Ambas as partes são hostis, conscientes uma da outra e realizam ações relacionadas ao combate - o combate já começou. A única razão pela qual os ataques não foram trocados é que ambos os lados desfrutam de cobertura total devido à presença da porta fechada.

Eis como eu penso sobre isso: é muito semelhante à antiga pergunta sobre "você pode preparar uma ação fora do combate?". As opiniões sobre isso parecem confusas, mas minha resposta a essa pergunta é: é isso que a rodada surpresa representa.

Se você sabe que existem duendes atrás da porta e os duendes não sabem que você está vindo, então você e todos os seus amigos podem preparar uma ação para atacar os duendes. Mas fazer com que todos circulem pela mesa e digam "eu preparo uma ação" é cansativo, então declaramos uma rodada surpresa e damos a todos uma ação padrão.

Por outro lado, se os goblins sabem que você está vindo, provavelmente os goblins também têm uma ação pronta. Quando muitas criaturas preparam ações que todas são acionadas ao mesmo tempo, temos que lançar a iniciativa para ver quais são as primeiras a disparar - então, nesse ponto, é melhor entrarmos na sequência de iniciativas e deixar que todos tomem suas ações em ordem de iniciativa.

Aqui está como seu exemplo de duende deve funcionar. Se você sabe que existem duendes atrás da porta e os duendes não sabem que você está lá, então você recebe uma rodada surpresa no início do combate. Durante sua rodada surpresa, você pode declarar defesa total. Então, (se os goblins obtiverem uma iniciativa maior do que você), quando os goblins atiram em você, você recebe seu bônus de esquiva.

Se você sabe que existem duendes atrás da porta, e os duendes do saiba que você está lá, então não terá sua surpresa e nem começará com a defesa total.

Você pode imaginar dizendo "Eu declaro total defesa e então Eu abro a porta "- mas se o combate começa e os goblins vencem sua iniciativa, eles o pegam de pé, o que significa que você perde seu bônus de Destreza na CA e também seus bônus de esquiva.

(Em outros lugares que você perguntou: "e se eu tiver uma esquiva sobrenatural, o que me permita manter minha destreza e bônus de esquiva quando estiver de pé?". É confuso, mas acho que tenho que admitir que isso funciona da mesma maneira que você quero.)

Dito tudo isso, acho que há situações em que você pode declarar total defesa fora do combate. Por exemplo, se você souber que uma armadilha da lâmina oscilante o atacará quando você pisar em uma determinada placa de pressão, poderá dizer "Declaro total defesa contra a armadilha da lâmina oscilante" e obtenha seu + 4 AC.

Como afirmado anteriormente, o exemplo dado não concorda com a premissa da pergunta. No entanto, acho que a pergunta inicial ainda é válida para cenários reais de não combate, por exemplo, preparando-se para a possibilidade de desencadear uma armadilha que possa ser esquivada ou desviar de galhos ao andar por uma floresta densa.
Independentemente disso, não há nada nas regras que diga que ações padrão podem ser usadas apenas em combate, e o tempo de uma rodada é sempre uma rodada, em combate ou não.