O site do US ESTA diz explicitamente:
citizens of Canada who are traveling with a Canadian passport do not need an ESTA. (emphasis mine)
Eu deduziria que sem um passaporte canadense você precisará passar pelo ESTA.
Eu também sou um cidadão britânico / canadense, residente no Canadá, e achei que valeu a pena obter um passaporte canadense precisamente para evitar esse tipo de coisa na fronteira com os EUA. Mas eu vou para os EUA com bastante frequência.