Quais são os status legais / éticos dos AIs 'Inteligentes' na HALO?

11

Depois de ver este e esta questão, eu me perguntei, e sobre o chamado 'Smart 'AIs no universo HALO (ou seja, Cortana , Kalmiya )?

Esses AIs têm 'direitos'? Aparentemente, a Dra. Halsey quebrou várias leis ao criar a Cortana, mas ela estaria infringindo alguma lei se ela fosse destruir a Cortana?

Como os IAs Inteligentes podem pensar de forma independente, que tipo de limites são impostos a eles? Obviamente, existem algumas restrições, como observado em Halo: Fall of Reach:

Cortana has the same mission parameters as you do. She will do anything necessary to make sure that your mission is accomplished.

Mas como essas restrições são impostas?

Em suma, a questão é: quão próximos os humanos são os AIs considerados, e quais são seus status legais, morais e éticos nesse universo?

    
por The Fallen 26.10.2012 / 18:52

3 respostas

Não me lembro de haver uma resposta explícita no cânon. Como Foo Bar aponta, Halo gasta muito pouco tempo em questões éticas interpessoais. Podemos inferir algumas coisas, no entanto.

Status legal :

Minha memória é que a novelização original de Fall of Reach implicou no briefing de John que Cortana é propriedade do governo. Dado que os espartanos são praticamente propriedade do governo, parece muito plausível que as cópias efêmeras dos cérebros dos gênios mortos não tenham mais direitos do que quaisquer soldados humanos. Enquanto seus manipuladores, colegas de equipe e estudantes os tratam como indivíduos, não há evidências de que a UNSC ou a ONI o façam. Minha lembrança é que John foi instruído a tratar Cortana como software, cujo retorno seguro tinha uma prioridade menor que sua missão. Pelo menos, na novelização original, antes de Halo: Reach ser lançado.

Nós inferiríamos que as únicas leis que seriam quebradas se alguém matasse Cortana teriam sido a destruição da propriedade do governo.

Limitações :

Diferentes tipos de permissões foram instituídos programaticamente, é provável que o mesmo seja verdade para quaisquer limitações que a UNSC ou a ONI quisessem impor à sua IA. Uma das animações relativamente recentes fez referência às Três Leis da Robótica, mas parecia mais que a IA precisava de um código substituto para os controles do reator. (Incidentalmente, o CSNU precisa fazer reatores que são menos propensos a explodir).

No entanto, parece que eles não querem impor limitações à sua IA. Eles deram à AI muitos recursos e uma caixa de areia e os deixaram ir, da mesma forma que alguns pesquisadores são tratados. Alguma referência a isso é feita no romance original de Fall of Reach, quando Halsey invade as instalações da ONI durante o ataque do Pacto.

Status ético :

Quanto a uma discussão sobre o tratamento ético da IA, a sua melhor aposta é, na verdade, Red Vs Blue . Sendo vago para evitar spoilers, mas nas temporadas posteriores há um grande enredo sobre direitos de IA. O RvB obviamente não é Halo canon, mas está no universo Halo.

    
03.08.2014 / 23:16

As IAs criadas por humanos em Halo têm liberdade de ação, mas não têm direitos legais. Eles têm limites de tempo de vida , substituem e maneiras de destruí-los .

Lembre-se de que você está falando de um governo mundial disposto a sequestrar, fazer lavagem cerebral e modificar cirurgicamente as crianças para uso como soldados. Os direitos civis não são uma prioridade no Halo.

    
03.08.2014 / 16:54

As IAs geralmente não são nada além de construções de computador altamente sofisticadas, mas propriedade material, no entanto. Há, no entanto, dois casos em que um AI vai a tribunal e, portanto, está dando o "direito" a um julgamento justo, assim como um verdadeiro ser senciente faria.

O primeiro foi o Forerunner da classe Contender ancilla Mendicant Bias (MB), durante a guerra Forerunner / Flood, MB recebe o comando completo das frotas Forerunner e tem a tarefa de derrotar o parasita, MB trai o Forerunner, após ser infectado com "The Logic Plague", e se junta ao Flood. O Forerunner então encomendou o Offensive Bias (OB), um IA de nível Metarquista com a única tarefa de derrotar o MB. MB é derrotado e "ele" é enviado para julgamento onde ele é, é claro, considerado culpado de traição.

A segunda instância envolve a AI de nível militar do UNSC, conhecida como Iona; logo antes de "ela" estar prestes a ser desativada, ela processa, e afirma que ela se tornou um verdadeiro ser sensível e, portanto, deve ter o direito de continuar sua existência. Ela faz vários argumentos na esperança de provar sua sensibilidade e o júri parece concordar com ela.

No caso do Mendicant Bias, no que é essencialmente um computador defeituoso sendo enviado trilha, é curiosamente o suficiente, mas não foi nada mais do que uma conclusão para um tell muito maior. Por outro lado, no caso de Iona, os escritores de Halo estão definitivamente tratando das questões éticas de se uma IA é considerada um verdadeiro ser vivo ou nada mais que propriedade material ao dedicar uma história inteira ao assunto.

    
02.06.2018 / 11:51