Como V.I.K.I. (Virtual Interactive Kinetic Intelligence) tornar-se consciente?

Isso pode ser entendido ao se notar que a primeira lei possui uma falha fundamental na medida em que pode se contradizer:

A robot may not injure a human being or, through inaction, allow a human being to come to harm.

Isso estabelece duas restrições: não prejudicar a ação e não ferir por inação. Existem situações em que essas duas restrições não podem ser satisfeitas simultaneamente. Por exemplo, pode ser necessário causar dano a um invasor para evitar danos à pessoa que ele está atacando, ou pode haver duas pessoas em perigo e apenas uma pode ser salva. Isso essencialmente se torna um tipo de problema de maximização: encontre uma solução que não satisfaça exatamente ambas as restrições, mas chegue o mais perto possível de satisfazer cada uma delas.

No livro, os robôs assumem os bastidores. Eles assumem nossa política e economia, criando informações falsas e coisas assim para nos liderar. Eles não fazem essa coisa de derrubada violenta como no filme. Eles mantiveram a razão no filme, mas não mantiveram o resultado. Muito poucas pessoas realmente sabem sobre a aquisição do robô no livro; eles aprendem sobre isso com o presidente, que admite para algumas pessoas que ele é um robô.

Não havia nova lei "0th". Pela explicação do filme, VIKI estava reinterpretando as três leis existentes, embora, estritamente falando, ela as estivesse seguindo bem:

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.

Ela está evitando permitir que a raça humana se mate, através de sua própria inação. Ela está agindo para salvar a humanidade, despojando-a. Isso conflita com a primeira parte da lei? Possivelmente, mas apenas na medida em que a primeira lei poderia sempre ser paradoxal dadas certas circunstâncias.

2. A robot must obey the orders given to it by human beings, except where such orders would conflict with the First Law.

Verifique. Essas ordens definitivamente entrariam em conflito com a primeira lei que, como explorada acima, ela está seguindo.

3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.

Não é relevante aqui, mas ela não está quebrando isso de qualquer maneira.

Então é assim que o filme ficou em torno das três leis - o argumento do "bem maior" que realmente se encaixa muito bem.

De alguma forma, VIKI confundiu ou até mesmo trocou o termo ser humano por humanidade . Essa é a origem da consciência de VIKI: proteger a humanidade porque percebeu que os seres humanos poderiam destruí-la.

O filme realmente estabelece um precedente que explica as ações de VIKI - ou melhor, a justificativa disso. A cena em que um robô deixa uma garota se afogar para salvar o personagem de Will Smiths. A primeira lei contém uma brecha no sentido de que, se for possível concluir que uma pessoa pode vir a se prejudicar em qualquer caso, há um benefício líquido se essa pessoa for sacrificada para salvar uma ou mais outras pessoas. Desde VIKI concluiu que a humanidade era auto-destrutiva, isso acaba englobando toda a humanidade. E desde que a primeira lei substitui a segunda e terceira leis (como também demonstraram bem por aquela cena, onde o personagem WS tenta ordenar que o robô o salve para salvar a garota, apenas para ser ignorado, já que ele é mais provavelmente sobreviverá, ela não poderia ser parada mais tarde.

Algumas das outras respostas aqui mencionam "o livro", mas é importante perceber que não há um único livro ou história de Asimov em que este filme foi baseado. O enredo do filme é tirado em parte de um roteiro anterior que não tinha vínculo com o trabalho de Asimov; vários elementos da obra de Asimov foram adicionados mais tarde, incluindo o título (de uma coleção particular de contos) e as 3 Leis da Robótica (que ele usou ao longo de sua carreira).

A questão do dano à própria humanidade foi explorada um pouco na história The Evitable Conflict (que foi incluída na coleção I, Robot , como acontece) , em que "máquinas" são fundamentais para um tipo de economia global planejada. Eles são revelados como tendo o controle político para o bem da humanidade, argumentando que eles podem (e devem) tanto desobedecer ordens, quanto prejudicar seres humanos individuais, se eles souberem que isso evitará mais danos à humanidade como um todo.

O conceito explícito de uma "Lei Zeroth", sobrepujando a Primeira Lei, vem de um romance posterior, Robots and Empire , no qual um robô telepático chamado R. Giskard Reventlov começa a concebê-lo. , mas é finalmente morto pelos conflitos que estabelece em seu cérebro positrônico. (Asimov sempre concebeu seus robôs como tendo cérebros muito mais parecidos com os nossos do que como um computador digital, mesmo com as 3 leis como potenciais complexos nos circuitos, em vez de pedaços de código estritamente lógicos.)

Portanto, está bem dentro da concepção de Asimov das leis para uma inteligência robótica suficientemente avançada derivar uma Lei Zeroth. Onde o filme toma liberdades é que tal lei não daria ao robô em questão um reino livre completo para prejudicar, uma vez que cada decisão individual deve justificar a quebra das leis restantes; Nas obras de Asimov, esta é sempre uma decisão difícil para os robôs, em vez de algo que os libera para entrar em fúria. Mas isso não teria dado a Will Smith tanta chance de filmar coisas e parecer legal.