Metal
Vantagens: durável, sem risco de absorver sabores
Desvantagens: pode riscar certas panelas
Madeira
Vantagens: não risca, parece bom
Desvantagens: pode se desgastar com o tempo, às vezes pode absorver sabores
Plástico
Não encontra um lugar na minha cozinha que não seja uma espátula de borracha para assar.
Silicone
Você não mencionou isso, mas eu gosto disso, porque funciona como borracha, mas pode suportar altas temperaturas (escovas, espátulas)
Eu acho que a resposta realmente depende do que você cozinha. Um bom conjunto básico pode consistir em uma colher de pau, uma espátula que pode lidar com o calor, uma boa concha e talvez um conjunto de pinças ou pauzinhos. Você aprenderá rapidamente o que deseja ter para facilitar um pouco.