Eu não acho que haja respostas definitivas. Reuni as informações canônicas que encontrei e adicionei minha própria especulação.

Quando?

Provavelmente na era do BC, mas não está claro exatamente quando. A varinha original provavelmente tem pouca semelhança com o dispositivo moderno, mas os principais aspectos seriam os mesmos.

Ollivander

In Pedra filosofal, quando Harry visita a loja de Ollivander, ele descobre que a família fabrica varinhas desde o século XIX aC:

The last shop was narrow and shabby. Peeling gold letters over the door read Ollivanders: Makers of Fine Wands since 382 BC. A single wand lay on a faded purple cushion in the dusty window.

É provável que as varinhas estivessem em uso antes desta data, e Pottermore confirma isso:

The family of Ollivander has long been associated with the mysterious profession of wandcraft. It is said that the name means 'he who owns the olive wand', which suggests that the original Ollivander arrived in Britain from a Mediterranean country (olive trees not being native to the UK). Mr Ollivander himself believes that his earliest forebears in this country arrived with the Romans, and set up stall (subsequently shop) to sell to ancient British wizards whose wands were crude of construction and unreliable in performance.

No entanto, o Conquista romana da Grã-Bretanha só começou em AD 43, cerca de quatro séculos depois que a família Ollivander abriu a loja. Não está claro como essas linhas do tempo coincidem. Ainda assim, coloca um limite no mais recente que as varinhas poderiam ter sido descobertas e usadas.

Existem sugestões em Pottermore que Ollivander inventou a varinha "como a conhecemos hoje"

Prior to Mr Ollivander's proprietorship of the family business, wizards used a wide variety of wand cores. A customer would often present the wandmaker with a magical substance to which they were attached, or had inherited, or by which their family swore (hinted at by the core of Fleur Delacour's wand). Mr Ollivander, however, was a purist who insisted that the best wands would never be produced merely by encasing the whiskers of a favourite Kneazle (or the stalk of a Dittany plant that once saved a wizard's father from poisoning, or the mane of a kelpie a witch had once met on holiday in Scotland) in the customer's favourite wood.

The best wands, he believed, had cores of immensely powerful magical substances, which were expertly enclosed in specially selected and complementary wandwoods, the result to be matched to an owner with whom the wand itself felt the most affinity. While there was initially substantial resistance to this revolutionary way of crafting wands, it swiftly became clear that Ollivander wands were infinitely superior to anything that had come before. His methods of locating wand woods and core substances marrying them together and matching them to ideal owners are all jealously guarded secrets that were coveted by rival wandmakers.

No entanto, essa passagem também deixa muito claro que ele não foi a primeira pessoa a colocar um núcleo mágico em um pedaço de madeira e usá-lo para canalizar a magia, então ele não inventou o conceito da varinha do zero.

Em um página antiga do site dela, JKR explica como vários personagens têm madeiras de varinha que correspondem à madeira de nascimento do calendário celta:

Some time after I had given Harry his holly-and-phoenix wand I came across a description of how the Celts had assigned trees to different parts of the year and discovered that, entirely by coincidence, I had assigned Harry the ‘correct’ wood for his day of birth. I therefore decided to give Ron and Hermione Celtic wand woods, too.

Isso pode ter sido não intencional, mas Malfoy é o mesmo. Os celtas eram uma cultura dominante no Reino Unido antes das conquistas romanas, então talvez isso dê credibilidade à idéia de que Ollivander chegou com os romanos, e ele pegou essa idéia dos celtas. Ou talvez seja apenas coincidência.

Grécia Antiga

Mas podemos voltar ainda mais. Em um Entrevista com Comic Relief no 2001, JK Rowling disse que "para fazer feitiços realmente bons, você precisa de uma varinha". Pottermore tem pelo menos uma (alegada) instância de magia avançada que antecederia a loja Ollivander:

Andros the Invincible. This Ancient Greek is alleged to be the only known wizard to have produced a Patronus the size of a giant.

A civilização de Grécia Antiga terminou no século VI aC, pelo menos um século antes de Ollivander abrir. Supondo que este relatório seja preciso e que você não possa conjurar um Patrono sem varinha, esse seria um exemplo anterior de uso de varinha. (A HP Wikia afirma que ele dominou a ortografia sem varinha, mas não consigo encontrar a fonte deles.)

Herpo the Foul é outro mago grego antigo, responsável por criar o Basilisco, o Horcrux e muitas outras magias escuras. Não temos datas para a atividade dele, mas essa é outra sugestão de que a magia com base em varinhas ou tipo varinha existia na época dos gregos.

Como temos gregos realizando magia relativamente avançada de varinhas, eu acho que as primeiras varinhas foram inventadas antes mesmo deles (ou pelo menos antes de Herpo e Andros). Haveria algum tempo entre a invenção das varinhas e essa mágica avançada.

A primeira menção explícita de varinhas

Olivander à parte, esses exemplos apenas aludem ao uso de uma varinha, mas nenhum deles os menciona explicitamente. A primeira menção canônica de uma varinha com uma data que eu posso encontrar vem de Quadribol através dos tempos:

The famous painting Giinther der Gewalttlitige ist der Gewinner (Gunther the Violent Is the Winner), dated 1105, shows the ancient German game of Stichstock. […] The bladder-guardian was allowed to use his or her wand to repel these attacks.

Existem ilustrações (por exemplo, Rowena Ravenclaw em cartões de sapo de chocolate em videogames) que retratam pessoas com varinhas em datas anteriores, mas não sei se você as contaria como cânone. Também há menções de feitiços, duelos e encantos que, presumivelmente, exigem varinhas, mas isso nunca é dito explicitamente.

Onde?

Em algum lugar da Europa, talvez na Grécia?

O Página Pottermore para Uagadou, a escola africana de magia, nos diz que as varinhas eram uma invenção européia.

A maioria dos casos canônicos de bruxos e bruxas da era BC é originária da Grécia Antiga. Como a filosofia e a ciência gregas eram relativamente avançadas e formaram a base de muita cultura ocidental, talvez os gregos tenham sido os primeiros a usar varinhas. Isso poderia ter sido absorvido pelo Império Romano, depois levado por Ollivander para a Grã-Bretanha.

O Egito antigo me parece outro candidato plausível: eles tinham maldições (como evidenciado pela necessidade de Quebradores de Maldições como Bill Weasley; veja Prisioneiro de Azkaban) Mas essa é uma linha descartável, portanto não podemos colocar o uso de suas varinhas ou a falta delas.

Não conheço história clássica suficiente para fazer sugestões plausíveis para outros candidatos (se houver).

Quem?

Nenhuma idéia.

Com base nas contas de Ollivander acima, não foi seu ancestral quem começou o negócio. Também duvido que seja um dos bruxos mencionados acima, pois acho que inventar varinhas (ou ser creditado como tal) supera qualquer outra conquista mágica.

Como na maioria das invenções primitivas (fogo, roda), a identidade do criador provavelmente está perdida na história. Também é plausível que várias pessoas o tenham inventado independentemente, e não há uma pessoa responsável.

onde

Europa

The wand is a European invention, and while African witches and wizards have adopted it as a useful tool in the last century, many spells are cast simply by pointing the finger or through hand gestures.
_{(Pottermore - Uagadou)}

Quando

Algum tempo antes de 382 BC

The last shop was narrow and shabby. Peeling gold letters over the door read Ollivanders: Makers of Fine Wands since 382 B.C. A single wand lay on a faded purple cushion in the dusty window.
_{(Harry Potter and the Philosopher's Stone, Chapter 5)}

Quem

Nenhuma resposta canon

Bem, se você considera os filmes como cânones, pode-se dizer que as varinhas já existem há muito tempo. A data real mais antiga que temos é a Loja de Magia de Sinal da Ollivander.

Ollivanders: Fabricantes de varinhas finas desde 382 BC

Fora isso, a menção mais antiga é os Contos de três irmãos, de Beedle, que mencionaram a Varinha das Varinhas. O problema é que Antioch Peverell pediu uma varinha de duelo que fosse imbatível, isso inferiria que existiam varinhas antes dele criar / adquirir a Varinha das Varinhas.

Citação de Contos dos Três Irmãos:

So the oldest brother, who was a combative man, asked for a wand more powerful than any in existence: a wand that must always win duels for its owner, a wand worthy of a wizard who had conquered Death! So Death crossed to an elder tree on the banks of the river, fashioned a wand from a branch that hung there, and gave it to the oldest brother.

Também Antioch Peverell nasceu e morreu em torno dos 1200s, o que significa que existiram varinhas durante sua vida.

http://harrypotter.wikia.com/wiki/Antioch_Peverell

Born
Prior to 12 July, 1214

Died
Prior to 18 May, 1291 Wizarding inn, England