Spiders são predadores de emboscada e usariam as regras de esconder 5e para fazer isso

Para analisar o seu exemplo:

A goblin hides in a bush, and a player must make a passive perception check to notice them, when they are within the vision of the player. Or they can make an active perception check to search for them.

Classificar de. Os jogadores não fazem testes de percepção passiva, sua percepção passiva está sempre ativa (é uma habilidade passiva , não uma habilidade ativa ). Se a CD notar uma criatura oculta é um 12, e um de seus PJs tiver uma percepção passiva, eles irão detectar a criatura escondida, estejam ou não procurando por ela.

In my adventure, I had a spider hiding in the fog. The fog was so thick that vision was only 5 ft. If a spider is 20ft away presumably you cannot see it, either passively or by making a perception check, as it's no different to it being behind a concrete wall in terms of sight.

Tenha em mente que a percepção não é apenas visual. Embora os jogadores não consigam enxergar o nevoeiro, eles podem ouvir a aranha clicando ou cheirando (não sei se as aranhas cheiram mal ou não). Então, enquanto você está certo de que eles não serão capazes de ver , eles podem ser capazes de perceber .

RAW, aqui está como você lida com o strong nevoeiro:

A heavily obscured area—such as darkness, opaque fog, or dense foliage—blocks vision entirely. A creature in a heavily obscured area effectively suffers from the blinded condition (see appendix A). A heavily obscured area doesn’t blind you, but you are effectively blinded when you try to see something obscured by it

Isso nos leva à condição de "cego":

A blinded creature can’t see and automatically fails any ability check that requires sight. Attack rolls against the creature have advantage, and the creature’s attack rolls have disadvantage.

Então, se a aranha está 100% silenciosa e não tem cheiro, então você pode razoavelmente assumir que uma verificação de visão é necessária para percebê-lo. Nesse caso, sim, seria impossível para seus PCs detectá-lo. Mas, muito poucas coisas neste mundo são completamente 100% silenciosas, então RAW provavelmente existe uma mudança (ainda que muito pequena) que os PCs pudessem detectá-lo com uma rolagem de percepção ativa extremamente boa (supondo que eles tivessem razão para fazer um, mas nevoeiro grosso em uma caverna parece um bom motivo para mim).

So how do you handle stealth in this instance? Because if a player moves within 5ft of the spider, it will see it automatically as it won't be behind cover anymore.

Os detalhes dependem de você, mas você pode determinar que a aranha é inaudível e imperceptível e, como tal, tem 100% de furtividade perfeita, ou que pode ser perceptível e potencialmente vulnerável a uma grande verificação de percepção.

Para responder a sua pergunta específica sobre como o combate provavelmente aconteceria e o que a própria aranha faria

So can the spider actually hide? If it did hide using its stealth ability, how would you explain that to the players? The players won't be able to swing at where they think the spider is, because the players range is 5ft and they can see 5ft, so there would be no guesswork involved.

Olhando as regras relevantes para esconder:

You can’t hide from a creature that can see you, and if you make noise (such as shouting a warning or knocking over a vase), you give away your position. An invisible creature can’t be seen, so it can always try to hide.

Então, sua aranha parece se encaixar na conta como uma criatura escondida em uma situação de esconderijo, então sua aranha pode tomar a ação de esconder, fazer a sua verificação furtiva, e ser escondida dos PCs até que eles detectem isso.

Obviously I want the spider to use the fog to its advantage, as it has 10ft of blindsight so can see 5ft further than the players.

RAW, isso faz todo o sentido. Apenas tenha em mente que, se os seus PCs estão em silêncio e estão a mais de 3 metros da aranha, então a aranha precisa fazer um esforço para detectá-los também. Basicamente, se ambos os grupos souberem que há perigo no nevoeiro, então ambos estarão tentando se esconder um do outro até que o primeiro contato seja feito.

I considered it hiding to mean that it is carefully tiptoeing around the players, staying out of view but watching them so if a player does move within 5ft in technical game terms, it still can't see the spider because although the spider technically occupies the adjacent square, it is hiding somewhere else.

Esconder tem um significado muito específico em 5e. Quando você está oculto, isso significa que você tem uma pontuação stealth permanente que precisa ser vencida por uma verificação de percepção passiva ou ativa. Enquanto não for vencido e você não fizer um ataque, você estará oculto. Uma vez batido ou atacado, você não está mais oculto. Um predador de emboscada como uma aranha provavelmente usaria isso para se posicionar em torno dos PCs (usando sua visão às cegas para ficar a 3 metros de distância, mas ainda assim detectar os jogadores), e então atacar quando alguém se separar. Uma vez atacada, ela atacou e perdeu seu status "oculto". Após o ataque, ele pode tentar se afastar de todos os PJs (para mais uma vez ganhar a condição obscurecida para que possa se esconder quando quiser). Então, será necessária a próxima ação para se esconder e se afastar dos PCs. Ele irá testar outro stealth e usará isso para contestar a percepção ativa e passiva dos PCs.

Tenha em mente que, enquanto os PJs estiverem no nevoeiro, eles não poderão ver a aranha até que ela chegue perto deles. Assim, eles terão desvantagem em todos os ataques contra ele e terão vantagem em todos os ataques contra eles. Também tenha em mente que o nevoeiro é geralmente disperso com um vento de intensidade moderada ou mais strong, portanto, se um de seus PJs tiver uma magia de vento, eles devem ser capazes de dispersar o nevoeiro.

    

Ativamente se esconder de uma criatura requer algumas coisas: você não pode ser visto e não pode ser ouvido. O nevoeiro certamente cobre a parte visual, já que os jogadores podem ver apenas 1,5 m. Você só pode se esconder quando não pode ser visto. Se um jogador pode ver a aranha, não pode se esconder. Portanto, as verificações furtivas da sua aranha serão totalmente auditivas, o que significa que seu teste é para ficar quieto. Role a verificação de stealth normalmente, adicione bônus se você acha que merece alguns.

Se a aranha estiver a menos de 1,5 metro dos jogadores, eles poderão vê-la e ele não estará mais oculto. Isso significa que eles podem fazer jogadas de ataque contra ele, mesmo que não possam vê-lo até que a aranha se esconda novamente. Eles têm desvantagem em jogadas de ataque contra criaturas que não podem ver. Uma vez que a aranha se esconda novamente, eles não podem fazer ataques contra ela, a menos que eles batam em sua verificação furtiva. Se eles vencerem o teste furtivo da aranha enquanto ele estiver oculto, então eles podem continuar fazendo ataques contra ele, inclusive se movendo em direção a sua localização.

Se eles não estiverem procurando ativamente pela aranha, use a percepção passiva do jogador. Como DM, você pode escolher dar a eles uma desvantagem por causa do nevoeiro, o que significa que você subtrai 5 da percepção passiva deles (Escondendo, PHB pg. 177; Visão e Luz PHB pg. 183).

Enquanto a aranha permanecer escondida, ela pode surpreender a festa. Eu definitivamente faria isso se você acha que eles podem lidar com isso. Assim que a aranha decide começar a brigar, a rodada de surpresa começa e qualquer um que não perceba a aranha perde seu primeiro turno, o que significa que a aranha pode correr até eles em sua linha de visão e atacar enquanto mantém a surpresa. Não termina magicamente só porque eles podem vê-lo (contanto que ele tenha iniciado o combate). (Surpresa, PHB pg. 189)

    

Por favor, veja Que vantagens a ocultação tem?

Sem repetir a resposta:

Se você está oculto, então ser visto não o torna exposto! Esconder envolve mais do que se agachar embaixo da mesa - envolve camuflagem, cobertura e desorientação. Um malandro habilidoso pode se esconder no meio de um campo de parada se ninguém o vir quando ele se esconde e pode permanecer escondido lá o dia todo enquanto um batalhão de infantaria marcha ao redor dele.

Para sua aranha, se tomar uma ação de Esconder, ela rola sua Destreza e recebe um número X. Se um PC caminhar dentro de um raio de 1,5m ou uma aranha e tiver uma Sabedoria Passiva (Percepção) igual ou maior que X , eles vão ver a aranha. Se a sua Sabedoria Passiva (Percepção) for menor que X então eles não verão a aranha até que ela entre nela ! A aranha ainda está no meio do nevoeiro - o nevoeiro agora é translúcido, não transparente.