Primeiro exemplo de uma IA sendo derrotada por um paradoxo

6

Há uma piada na ficção científica sobre como derrotar uma IA do mal com algum tipo de paradoxo, mas tem que haver uma razão para isso. Estou ciente de que a série Eu, Robô, tinha uma história em que os computadores de uma empresa rival eram derretidos por um paradoxo, mas qual é o exemplo mais antigo na ficção de uma inteligência desonesta (robô, computador, holograma) sendo derrotada ou desativada por um paradoxo? ?

    
por CBredlow 29.08.2016 / 19:28

1 resposta

Eu acredito que a primeira dessas histórias foi "Mentiroso!" por Isaac Asimov, por volta de 1941. Na história, um robô de leitura da mente foi criado e sua habilidade única produziu consequências imprevistas e infelizes. Susan Calvin deixou o robô louco no final da história, forçando o robô a confrontar um inescapável paradoxo da Primeira Lei.

“You can’t tell them,” droned the psychologist slowly, “because that would hurt and you mustn’t hurt. But if you don’t tell them, you hurt, so you must tell them. And if you do, you will hurt and you mustn’t, so you can’t tell them; but if you don’t, you hurt, so you must; but if you do, you hurt, so you mustn’t; but if you don’t, you hurt, so you must; but if you do, you—”

Herbie was up against the wall, and here he dropped to his knees. “Stop!” he shrieked.

    
29.08.2016 / 20:02