Posso viajar para o meu país sem passaporte dos EUA?

people said I cannot go back the US without US passport,

Isso não está correto. Por um lado, você deve ter um passaporte, mas não há nenhuma penalidade por quebrar essa regra e, mais importante, cidadãos norte-americanos não podem ser impedidos de entrar nos EUA se forem fornecidas provas adequadas de que são de fato cidadãos. Não há regra dura e rápida aqui, mas o próprio USCIS diz

You will receive your Certificate of Naturalization after taking the Oath of Allegiance. You may use your Certificate of Naturalization as official proof that you are a U.S. citizen.

Então, os agentes de fronteira devem aceitar isso. Eu não acho que seria tão bom quanto entrar com um passaporte, mas deveria funcionar. Note que a companhia aérea pode lhe dar um tempo difícil de embarque. Consulte o link desta resposta.

thus can I apply the US passport in Hong Kong?

Sim. link O Certificado de Naturalização dos EUA é mencionado novamente.

A lei dos EUA diz que você deve sair e entrar nos EUA com seu passaporte americano, mas os oficiais da fronteira dos EUA não olham para os documentos das pessoas que estão saindo, então eles não aplicam realmente essa parte da regra.

Quanto ao retorno, como outros notaram, você pode entrar no país com o seu certificado de naturalização, embora tenha que fazer mais explicações do que precisaria se tivesse um passaporte. Eu acho que você poderia, em teoria, ser responsabilizado por uma taxa para ganhar isenção do requisito, mas eu li neste site que eles realmente não impõem um.

O maior problema em retornar aos EUA com base no seu certificado de naturalização provavelmente seria a companhia aérea. Eles podem não aceitar seu certificado de naturalização como prova de admissibilidade nos EUA, uma vez que ele não está em conformidade com os padrões dos documentos de viagem e se você não tiver um visto nos EUA, eles podem se recusar a deixar você embarcar.

Portanto, conseguir seu passaporte americano em Hong Kong parece ser o caminho mais seguro.