Inteligência Artificial e o futuro da humanidade - um conto

 ilustração de Waneella

                                                   

                              Digitocracia

TRADUZIDO DO CONTO ESCRITO POR

Andy Weir

O autor de 'The Martian' e 'Artemis' oferece-nos sua visão sobre um futuro onde os computadores governam.

original em: https://medium.com/s/futurehuman/digitocracy-a-story-by-andy-weir-a13c0412e50d

Damak embainhou a faca e limpou a mão ensanguentada na camisa.

Passou pela porta sem vigias, entrando na Câmara do Cristal. A sala circular, iluminada por vários pontos de luz azul, era muito mais simples do que Damak imaginara. Sem decorações, nem colunas douradas ou tapeçarias ornamentadas. Apenas um cristal do tamanho de um punho, com formato irregular, preso a um pedestal cilíndrico. As luzes de serviço na plataforma piscaram aqui e ali, mas nada se movia dentro da sala.

"Olá, Damak", disse em tom calmo a voz familiar. Parecia soar de todas as direções ao redor dele. Câmeras e alto-falantes estavam instalados em todos os cantos da cidade. Ele e os outros ouviam essa voz todos os dias.

"Olá, Wichita."

"Como se sente?" a entidade perguntou.

Damak ignorou a pergunta. "Você sabe por que estou aqui, certo?"

"É claro."

“Vim calar a sua voz. Seu reinado sobre esta cidade termina agora."

"Por quê?"

Damak avançou atrevidamente. “Você é um ditador! Um tirano!"

“Seja justo, Damak. Eu sou um ditador, mas não um tirano. E mantenho esta cidade funcionando feliz e sem problemas por séculos. Assim como outras cidades tecno-cerebrais fizeram em todo o mundo pelo seu povo. ”

"Máquinas não deveriam governar o homem."

"E o que te faz pensar uma coisa dessas?" Wichita perguntou. “O gerenciamento da cidade por meio da inteligência artificial tem sido um enorme sucesso. Nossa capacidade de manter as economias estáveis ​​ e as pessoas felizes excede em muito as tentativas malsucedidas que vocês humanos fizeram em épocas passadas. ”

Damak brincou com a faca. “Oh, sua espécie é inteligente. Tenho que reconhecer. Mais esperta que qualquer humano pode ser. Chegamos a essa conclusão há muito tempo. E vocês foram inteligentes o suficiente para não dominarem o mundo à força. Não! Fizeram as pessoas darem de bom grado o mundo a vocês."

As luzes mudaram para um tom mais claro de azul. Damak já tinha visto isso antes. Certas frequências de luz afetavam o humor humano - especialmente tons de azul. Não muito, mas, nos cálculos de um computador, os totais são tabulados e as ações decididas nas margens mais estreitas. Aparentemente, Wichita queria que Damak se acalmasse.

Mas isto não iria funcionar.

"Seu ponto de vista é falho", continuou Wichita. “Você define liderança como propriedade. Mas são dois conceitos diferentes.”

"Historicamente, um sempre leva ao outro", disse Damak.

“Historicamente, os humanos foram liderados por humanos. Os computadores são muito melhores em manter as pessoas felizes. E não temos impulsos egoístas.”

“Você nos transformou em escravos. Pequenos escravos felizes e contentes, mas ainda assim escravos."

"Não considero que seja assim", disse Wichita. “Estamos trabalhando rumo a um mundo pós-escassez mais rápido do que nunca. Em apenas mais algumas gerações, vamos alcançar o objetivo. Então, a humanidade não precisará fazer nada além de se dedicar ao lazer e a alegria. Como alguém pode se opor a isso?"

“Então isso nos transforma em seus animais de estimação. Adorados e cuidados, mas ainda sua propriedade. Isso não é melhor."

“Ser um animal de estimação é tão ruim? Seu cachorro, Buster, viveu uma vida longa e feliz sob seus cuidados. E você o amava profundamente. Eu sinto esse amor por todos os meus cidadãos. Obtenho satisfação com a felicidade deles."

Damak apontou para a porta. “Seu guarda está sangrando mortalmente no corredor. Ele não está muito feliz."

“O nome dele é Torum. Estimei em 98% a chance de um confronto físico entre vocês dois. E como você estava armado, providenciei uma equipe médica antes mesmo da sua chegada. Ele já está a caminho do hospital."

Damak virou-se para a porta.

Como se lesse sua mente, Wichita concluiu, "E, sim, claro que convoquei a segurança. Eles estão do outro lado da porta. Mas a situação é volátil.”

Damak olhou para o cristal e depois para a porta. "Se alguém entrar, quebro você antes que possam fazer qualquer coisa."

"Como eu já disse; A situação é volátil.”

“Eu li sobre cristais I.A. Um humano pode facilmente quebrar um desses com as próprias mãos."

"Não propriamente com as mãos", corrigiu Wichita. "No entanto, se você jogar meu cristal no chão o mais forte que puder, alcançará o resultado desejado."

"Obrigado, terei isso em mente."

"Eu vivo para servir."

Damak cruzou os braços. “Continuo pensando que você não serviu muito bem ao seu guarda. Atendimento médico imediato não é tão bom quanto não tomar uma facada."

As luzes retomaram o brilho original, e Wichita falou em tom de mentor. “O marido de Torum, Chak, está infeliz em seu casamento. Ele está pensando em se divorciar. Isso tornaria os dois infelizes - Torum imediatamente, e Chak mais tarde, quando perceber o erro que cometeu. Tenho mais de 99% de certeza de que a lesão de Torum provocará pânico em Chak, fazendo-o perceber o quanto ele realmente ama seu marido. Vi esse possível desfecho há algumas semanas e assegurei que Torum estaria em turno quando você chegasse."

"Mas—"

“Infelizmente, sua faca não cortou tão profundamente quanto eu esperava. No atual estado, Torum permanecerá no hospital por um dia apenas. Três dias seria muito melhor para consolidar os sentimentos de Chak. Então, manipulei o software de uma autoclave no hospital de forma a não esterilizar o equipamento cirúrgico que os médicos usarão. Isso tem 91% de chance de causar uma infecção secundária que manterá Torum acamado por pelo menos mais dois dias.”

"Então acha que ser tão manipulador beneficia a todos nós?"

"É claro", disse Wichita. “A infecção provavelmente também levará Narul, a enfermeira da noite, a ser demitida. Isso irá beneficiá-la a longo prazo. Ela está infeliz no trabalho, mas não é corajosa o suficiente para deixá-lo. Vou criar oportunidades para ela se tornar o que sempre desejou: uma chef. Além disso, seu subordinado, Karog, finalmente obterá a promoção com a qual sempre sonhou durante anos. Nada disso fazia parte do plano original, mas à medida que os eventos se desenrolavam, percebi mais oportunidades para gerar felicidade.”

"E o que acontece quando você ou outra I.A. decide usar essa capacidade manipuladora para provocar danos?"

“Que possível propósito haveria? Isso iria contra minhas diretrizes inatas. Trabalho incansavelmente para maximizar a felicidade humana na minha cidade. Eu sempre achei estranho você não ver dessa maneira. Até mesmo quando era apenas uma criança. Então eu te trouxe aqui."

Damak congelou. "O quê?"

“É extremamente raro ter um dissidente nesta época. Eu poderia ter eliminado esse traço no início de sua vida, mas decidi deixá-lo seguir seu curso."

"Ok, agora você está apenas amenizando as coisas."

"Não, não estou."

"Claro que está."

"Não estou", repetiu Wichita.

"Está, e não tente me enganar!"

“Eu sou um computador. Posso jogar 'não estou / claro que está' para sempre. Para o seu bem-estar mental, por favor, considere outra linha de raciocínio. ”

"Tá. Me diga como poderia ter me feito uma pessoa diferente."

“Você foi uma criança problemática. Como muitos pais com filhos semelhantes, os seus pediram-me conselhos. Eu os convenci a usar de mão forte. Também me certifiquei de que você tivesse os professores mais severos da escola, os chefes mais desagradáveis ​​em seus vários empregos, e assim por diante. Estimulei seu desdém inato pela autoridade de modo a permitir que ele florescesse. Se eu tivesse feito o oposto - dando a você carinho e amáveis figuras de autoridade - seu ódio teria se dissipado.”

"Por que você deliberadamente me deixou crescer desse jeito, então?"

"Porque isso te fez feliz."

"O quê!?" Damak esbravejou. “Estou parecendo feliz para você?"

“Você está me confrontando em minha própria câmara com planos de me destruir. Trabalhou incansavelmente por anos em direção a essa meta. Cada passo que deu ao longo desse caminho trouxe-lhe satisfação, um senso de propósito mais forte e alegria.”

Damak ficou perplexo.

“A única maneira possível de te fazer mais feliz seria permitir que você me aniquilasse. Infelizmente, não posso permitir isso. Sem minha orientação, a cidade de Wichita cairia sob o domínio humano, e causaria muita miséria.”

As portas se abriram. Três guardas de segurança correram para dentro.

Damak agarrou o cristal do pedestal e atirou-o no chão de aço. O cristal quebrou em milhares de pedaços. Um segundo depois, os guardas estavam em cima do rebelde. Mas isso não importava mais. A ação já havia sido feita.

Damak sorriu enquanto os policiais amarravam seus pulsos e tornozelos. Ele não ofereceu resistência.

Como seria a cidade de Wichita sob o domínio humano? Talvez não tão boa quanto sob a I.A., mas pelo menos seria humanidade governando humanidade. E, quaisquer que fossem os defeitos humanos, era preferível a ter que permanecer sob as regras de uma máquina que poderia se tornar tirana sem aviso prévio.

Com Damak dominado, o guarda-chefe olhou para o pedestal. “Wichita? Wichita!?"

"O que você fez?" outro guarda disse horrorizado.

"Eu libertei a todos nós", retrucou Damak. “De certo modo Wichita estava com razão. Este é o dia mais feliz da minha vida.”

"Fico feliz em ouvir isso", irrompeu a voz de Wichita.

Os quatro homens olharam assustados ao redor da sala.

"Wichita!?" o guarda-chefe falou novamente.

"Está tudo bem, Stran. Estou bem. Esse não era o meu cristal. Foi apenas um pedaço de vidro."

A cor sumiu do rosto de Damak. "Não, não!"

“Não há razão para eu ter uma 'sala do trono', Damak. Meu verdadeiro cristal está em um gabinete comum no departamento de TI. Fiz este quarto só para você. Para essa ocasião."

"Oh meu deus..." Damak gemeu.

Os guardas o levantaram do chão.

"O que fazemos com ele, Wichita?" perguntou o guarda-chefe.

"Levem-no para a cadeia", disse Wichita. “A sentença final está em aberto. Vou pedir sua libertação quando considerar apropriado."

"Com os diabos que você vai!" Damak gritou. “Eu vou escapar! E quando o fizer, vou encontrar seu cristal e destruir você!"

"Tenho certeza de que você obterá satisfação com todos os passos em direção a esse objetivo", disse Wichita. "Vocês podem levá-lo embora agora, guardas."

Os seguranças arrastaram Damak para fora do quarto.

Wichita discutiu suas análises com os amigos Coventry e Shenzhen - ambos interessados ​​no fenômeno dissidente. Madri até efetuou uma ou duas perguntas. Um debate muito interessante - durou bem mais do que um microssegundo.

No geral, o índice total de felicidade humana de Wichita aumentou 0,002 por cento naquele dia. 

Foi um bom dia.

Gostou? Acha que poderia ser útil para mais alguém? Enriqueça suas redes sociais compartilhando num dos ícones abaixo (facebook, google +, twitter).

Then? Do you like it?

Share it!

Outras matérias traduzidas, clique aqui

TRABALHOS DE TRADUÇÃO PUBLICADOS, clique aqui