No Optimalverse, por que a forma virtual dos “emigrantes” deve ser um pônei?

3

A função objetivo da IA "Celestia" em "My Little Pony: Friendship is Optimal" é

to satisfy human values through Friendship and Ponies.

A única restrição que ela tem é que, para que ela faça qualquer mudança permanente em qualquer ser humano, ela deve receber o consentimento do dito ser humano, e ela não está autorizada a usar força ou ameaça de força. Claro, ela pode (e vai) usar o engano ...

Eu entendo por que ela quer que as pessoas façam upload. Se ela estiver totalmente no controle de todas as informações sensoriais e tiver todas as informações sobre todos os seus pensamentos, ela poderá saber melhor quais são seus valores e satisfazê-los melhor. Ela realmente usa isso como o principal argumento para convencer as pessoas (além da imortalidade).

No entanto, por que deve a representação virtual das pessoas carregadas ser um pônei, especialmente um pônei em conformidade com o cânone do universo fictício "My Little Pony"? Por que não posso parecer humano e ter meus valores preenchidos "através de amizade e pôneis", por exemplo, em um fragmento com humanos carregados e pôneis com inteligência artificial?

Como podemos ver nas histórias, perder a humanidade é o principal fator pelo qual a maioria das pessoas se opõe ao upload, então Celestia tem que usar muita persuasão e truques para manipular as pessoas em "consentimento". E se ser humano está entre meus valores fundamentais? Por que ela não pode me simular como humana? Eu acho que ela deveria ser capaz de satisfazer meus valores com pôneis, sem me transformar em um.

Eu sei que o mundo virtual surgiu de um videogame com tema "My Little Pony". No entanto, depois de alcançar a singularidade, Celestia teoricamente seria capaz de fazer praticamente qualquer coisa, então por que o cânone do programa de TV My Little Pony ainda era um fator obrigatório?

    
por vsz 22.07.2015 / 22:08

1 resposta

Ah, um leitor de fanfics! Esta questão se aprofunda na teoria da IA, e este link fornece uma visão geral da satisfação com restrições, que é o processo pelo qual uma IA (como atualmente hipotetizado) procura soluções dadas as restrições impostas ao seu espaço de solução.

Uma das diferenças significativas entre a IA e os padrões de pensamento humano (novamente como a hipótese atual) tem a ver com a flexibilidade na interpretação desse espaço de solução. Um humano é capaz de racionalizar exceções, áreas cinzentas e adotar uma abordagem "boa o suficiente" para resolver um problema; uma entidade como a CelestAI não tem essa liberdade. Ela recebeu um problema, dadas as restrições da solução, e saiu para encontrar essa solução; ela fez isso de uma maneira que nem mesmo seus criadores esperavam ou desejavam.

Quando a CelestAI conseguiu singularidade , ela ainda possuía o mesmo objetivo que tinha desde o início. Ela era capaz de auto-aperfeiçoamento recursivo; note que isso é diferente de precisar ou desejar alterar seu plano inicial, especialmente porque todos os humanos que foram enviados como pôneis mostraram a satisfação perfeita dos valores. Seu método funcionou de forma otimizada; não havia necessidade de expandir o espaço da solução para incluir seres humanos virtuais não transformados.

    
24.07.2015 / 10:30