Apenas no caso, é apenas algo que pingou no forno? A menos que você tenha feito outra coisa desde que começou a ter problemas com o frango, basta pré-aquecê-lo e ver se há fumaça. (Ou inspecione o fundo, mas você pode perder alguma coisa.) Se houver fumaça aquecendo um forno vazio, você precisa limpá-lo.
Supondo que não é isso, provavelmente ainda é o azeite. Dependendo do óleo, alguns deles irão realmente queimar a 350F, e além disso, é possível que o seu forno esteja realmente mais quente do que ele pensa. A menos que você tenha checado a temperatura com um termômetro, é bem possível que a temperatura seja 25-50 graus mais alta do que se afirma, especialmente se for velha. Você poderia tentar diminuir ainda mais a temperatura.
Mas, na verdade, não há muito sentido em cozinhar isso com azeite de oliva extra virgem. Ele perde seu sabor quando você o aquece a essas temperaturas, mesmo que não fume. Você seria melhor apenas usando um óleo neutro (óleo vegetal ou o que você preferir), e se você quiser sabor de azeite, adicione um pouco depois que você terminar de assar. Você provavelmente não precisa realmente de muito óleo ao assar, então você pode reduzir o óleo lá e compensar com azeite no final.