Por que minhas lâmpadas LED se recusam a funcionar em um soquete, mas as CFLs funcionarão?

Eu tenho 3 luzes sobre a minha mesa operadas por um simples interruptor. Eu substituí todos os 3 com lâmpadas LED. Duas das luzes funcionam bem, mas a outra funcionará por um tempo e depois parará. Eu tentei 4 das lâmpadas que funcionam bem nos dois primeiros soquetes, mas não funcionaria neste soquete. Quando eu tirei e coloquei de volta nas duas primeiras tomadas, elas funcionaram bem de novo.

O que está acontecendo? O soquete é ruim ou algo mais? Lâmpadas CFL funcionam bem.