Isso é explicado nos livros e é sugerido nos filmes.
Como Smeagol começou a mudar fisicamente por causa de seu estilo de vida alterado, ele freqüentemente fazia um barulho limpando sua garganta. Isso, por onomatopéia, tornou-se "Gollum". Então outros que o viram, sem saber o nome dele ou que ele era um Hobbit, começaram a chamá-lo de Gollum.
A primeira vez que ele é visto no filme Fellowship of the Ring, ele faz o som da garganta de Gollum algumas vezes. Isso é para retratar a origem do epíteto.
Aqui está como é contado em O Hobbit, ou Lá e Voltando Novamente :
“Bless us and splash us, my precioussss! I guess it’s a choice feast; at least a tasty morsel it’d make us, Gollum!” And when he said Gollum he made a horrible swallowing noise in his throat. That is how he got his name, though he always called himself ‘my precious’.
E aqui está A Sociedade do Anel: Sendo a Primeira Parte do Senhor dos Anéis :
"He took to thieving, and going about muttering to himself, and gurgling in his throat. So they called him GOLLUM, and cursed him, and told him to go far away; and his grandmother, desiring peace, expelled him from the family and turned him out of her hole."
Isso é descrito em detalhes aqui