TL; DR
Para resolver sua pergunta real: Ele não foi capaz de ler os pensamentos de Leia porque ela não estava no mesmo estado de turbulência emocional, E não emocionalmente sofrendo por causa de informações específicas sobre uma pessoa específica o que lhe permitiu ler a mente de Lucas.
Detalhes:
Ninguém simplesmente entra em contato com Mordor lê a mente de alguém com a Força. Não existe uma capacidade genérica de "Force Mind Read" que conheço no canon (pelo menos pré-TFA).
Em vez disso, você pode ter um vislumbre, em circunstâncias muito específicas.
A novela de ROTJ por James Kahn explica o que aconteceu quando Vader sentiu sobre Leia, e não era tão simples como "leia a mente de Luke e descobriu que ele tem uma irmã": ele estava sentindo coisas associadas com sentimentos strongs Luke estava experimentando na época. Extremamente amplificado por Leia sendo baleado naquele momento, o que Luke sentiu:He was picking up additional feelings from Luke, now, new crosscurrents of doubt. Remorse, regret, abandonment. Shades of pain. But somehow not directly related to Vader. To others, to … Endor. Ah, that was it—the Sanctuary Moon where his friends would soon die. ...
Note que ele lê emoções, não pensamentos, e então logicamente deduz de quais pensamentos eles vieram baseados nas circunstâncias. Então:
“Give yourself to the dark side, Luke,” he entreated. “It is the only way you can save your friends. Yes, your thoughts betray you, son. Your feelings for them are strong, especially for — ”
Mas ... acabamos de ver no último parágrafo, ele não sentiu os pensamentos de Luke. Apenas sentimentos . Vader simplesmente errou.
Vader stopped. He sensed something.
Luke withdrew further into shadow. He tried to hide, but there was no way to hide what was in his mind—Leia was in pain. Her agony cried to him now, and his spirit cried with her. He tried to shut it out, to shut it up, but the cry was loud, and he couldn’t stifle it, couldn’t leave it alone, had to cradle it openly, to give it solace.
Vader’s consciousness invaded that private place.
“No!” screamed Luke.
Vader was incredulous. “Sister? Sister!” he bellowed. “Your feelings have now betrayed her, too … Twins!” he roared triumphantly. “Obi-Wan was wise to hide her, but now his failure is complete.” His smile was clear to Luke, through the mask, through the shadows, through all the realms of Darkness. “If you will not turn to the Dark Side, perhaps she will.”