Você provoca um Ataque de Oportunidade, apenas uma vez, quando as regras dizem que você faz
O texto no Compêndio de Regras é claro; você só provoca uma AoE uma vez para cada oportunidade. A questão, como você diz, é o que é uma "oportunidade".
As regras da AoE listam isso, no entanto. O que causa principalmente um ataque de oportunidade é:
- Mover
- Realizando um ato de distração [1]
O primeiro não é relevante para esta questão. A segunda refere-se especificamente à tabela de ações listadas na P141 do PHB; ações específicas causam um ataque de oportunidade, somente quando ele é listado como tal. O texto relevante é que a ação (se listada como tal) "provoca um ataque de oportunidade"; apenas uma vez.
Exceções
Embora a regra geral seja a anterior, D & D é um jogo de exceções e existem várias habilidades de classe que também causam ataques de oportunidades.
Além disso, de acordo com o Compêndio de Regras, atacar com uma arma de longo alcance também provoca um Ataque de Oportunidade, mesmo se a ação a ele associada não (como Ataque Total):
You provoke attacks of opportunity when firing or throwing a ranged weapon.
Até onde eu sei, isso está faltando no PHB e no SRD. Note, no entanto, que isto só se aplica a armas variadas ; o seu exemplo de ataque de magia, portanto, apenas provoca um ataque de oportunidade, já que não envolve um ataque de arma à distância [2].
[1]: O compêndio dos principais livros de regras, SRD e regras diferem ligeiramente na terminologia e nas listas específicas de ações, mas o princípio básico é o mesmo em cada.
[2]: Embora o Compêndio de Regras descreva como as magias podem "funcionar como armas em certos aspectos", elas consistentemente as descrevem como "semelhantes a armas", não como armas - e depois enumera especificamente como elas funcionam como armas (especificamente, você pode usar proezas específicas com elas). Como tal, eles não contam como "armas de longo alcance" para o propósito da AoE.