14 CFR 45 subparte C rege a exibição de "nacionalidade e marcas de registro".
14 CFR 45.21 diz:
Except as provided in §45.22, no person may operate a U.S.-registered aircraft unless that aircraft displays nationality and registration marks in accordance with the requirements of this section and §§45.23 through 45.33.
A Seção 45.22 dá algumas exceções para aeronaves "de exposição e antigas" e para aeronaves de projeto incomum que podem precisar de um esquema de marcação alternativo.
Presumo que exista outro regulamento, ou acordo internacional, exigindo que as aeronaves registradas no exterior também exibam suas marcas de registro, mas ainda não o encontrei.
Quanto a qual aeronave precisa ser registrada nos EUA, veja 14 CFR 47 . É um pouco complicado.
As forças armadas dos EUA geralmente não estão vinculadas às regulamentações da FAA (embora possam optar por seguir algumas delas), veja Quanto jurisdição a FAA tem sobre as aeronaves militares? .