Pessoalmente, acho que o termo 'alma' está errado aqui (embora dependa da definição). Tanto quanto eu entendi essas cenas, Spock transferiu seu conhecimento, memórias e muito bem o que compõe sua personalidade no cérebro de McCoy. Durante a cerimônia em Vulcano, ele foi transferido de volta para o cérebro de Spock (deve ser uma façanha para dividir duas personalidades e mentes).
O problema era que o cérebro de McCoy era muito primitivo para lidar com esse tipo (e quantidade) de informação. É por isso que ele lentamente enlouqueceu e é provável que também a explicação por que Spock teve que reaprender algumas coisas. Durante o filme, podemos ver que McCoy tem problemas em diferenciar entre sua mente e a de Spock. Então eu acho que McCoy simplesmente teria enlouquecido com o tempo, perdendo sua mente e Spocks no caminho para baixo da toca do coelho.
Agora que penso nisso, parece bastante lógico que Spock tenha sido "menos" humano depois da cerimônia. A sacerdotisa precisava descobrir o que pertencia a Spock e o que pertencia ao hospedeiro humano, sem saber que Spock tinha ... uuuhhhh ... alcançado alguns traços humanos, ela simplesmente assumiu que pertenciam a McCoy.