* Reportagem Especial | Com RT
As tecnologias que vinculam a consciência humana a qualquer tipo de serviço de computação em nuvem não podem apenas abrir o caminho para o controle totalitário da mente, mas destruir a própria essência das relações humanas, afirma o filósofo Slavoj Zizek.
Um computador que pode ler os pensamentos de muitas pessoas ao mesmo tempo tornaria impossível a vida humana normal, disse o filósofo cultural esloveno em entrevista ao canal RT na sequência da Conferência Mundial de Inteligência Artificial (AI) em Xangai, na China, que também reuniu o presidente do Alibaba, Jack Ma, e o CEO da Tesla, Elon. Musk analisando o futuro da IA.
Enquanto os especialistas discutiam acaloradamente sobre a possibilidade de seres humanos serem controlados por máquinas no futuro, na entrevista o pesquisador sênior do Instituto de Sociologia e Filosofia da Universidade de Liubliana compartilhou seus pensamentos sobre o assunto. CONFIRA:
CÉREBRO CONECTADO
“O que estou estudando agora é o chamado fenômeno dos cérebros com fio, uma possibilidade de nossos cérebros estarem conectados com poderosas máquinas digitais. E isso não é uma utopia. No laboratório de mídia do MIT, Massachusetts (EUA), eles já possuem máquinas simples como essa. É como um capacete, nada intrusivo, eles colocam na sua cabeça.
Arnav Kapur, a student in MIT’s Media Lab, has developed a system to surf the internet with his mind. He silently Googled our questions and heard the answers through vibrations transmitted through his skull and into his inner ear. pic.twitter.com/aN76Jn4AHv
— 60 Minutes (@60Minutes) April 22, 2018
E então acontece algo horrível – eu vi o vídeo – você pensa certos pensamentos, não diz nada e a máquina os reproduz por escrito ou com voz artificial.
As máquinas de nível primitivo já podem ler seus pensamentos. Tudo bem, se você concordar, mas e se for feito (e é fácil imaginar isso) sem você saber?
Agora, há uma opção séria para ler nossos pensamentos, não apenas nossas atitudes emocionais, como ficar com raiva ou tristeza, mas também a linha de nossos pensamentos em nossa mente. O próximo passo nesta “utopia” será um computador que possa ler meus pensamentos e os seus pensamentos que podem nos conectar para que possamos compartilhar nossos pensamentos. Se você e eu estamos conectados através do mesmo computador, posso literalmente participar diretamente do seu pensamento, sem nenhuma comunicação externa, como digitação de palavras.
Como você provavelmente sabe, os teóricos da tecnologia moderna Ray Kurzweil e Melanie Swan a chamaram de uma nova forma de divindade.
Não será mais um Deus transcendente, mas todos nós compartilhamos nossos pensamentos através de algum sistema de nuvem da IA. Milhões de pessoas estarão participando juntas de uma nova forma de conscientização. Acho essa perspectiva bastante horrível.
ERA PÓS-HUMANA
Nós, como seres humanos, somos exatamente o que somos, indivíduos livres, tanto quanto podemos ter certeza de que você não sabe o que estou pensando. Eu acho que o que penso, sou livre em minha mente. O que acontece se eu não tiver certeza disso?
Se penso em algo e o computador consegue identificar o que estou pensando e depois compartilhá-lo com outras pessoas, estamos realmente entrando na era pós-humana. Acredito que não devemos ficar fascinados com o que isso significa tecnologicamente.
Você não concorda que devemos nos preocupar com quem controlará essas máquinas digitais?
Não tenho medo de que as máquinas nos controlem. Não estamos lá ainda. No entanto, quem controlará isso, quem usará isso? O que resta da nossa liberdade? Empresas privadas, como Google ou Facebook, já estão desenvolvendo tecnologias semelhantes.
Pensamento com ‘transparência’ é a maior ameaça à nossa liberdade hoje
CONTROLE DO PENSAMENTO
Eu vejo isso como a maior ameaça à nossa liberdade. Nós literalmente nos tornaremos transparentes. Vamos pensar nas consequências cotidianas disso. Todo flerte será eliminado. Conheço alguém e, em vez de todos os jogos adoráveis de dicas eróticas, ela pode ler “Quero ir para a cama com você” e o erotismo desaparece.
Outro exemplo simples é a polidez cotidiana. Digamos que nos conhecemos, mas não somos amigos muito próximos. Vejo você na rua e digo as coisas educadas de sempre: “Olá, tudo bem? Fico feliz em conhecê-lo. ” Mas se você pode ler minha mente, isso é um absurdo, porque isso é polidez e eu não estou falando sério. Normalmente, eu não me importo como você se sente.
Isso me intriga muito. O que está acontecendo? Como isso afetará nossas maneiras cotidianas, nossas antigas invenções sociais da civilização? Todas as nossas interações cultivadas são baseadas nisso.
Há outra coisa. Que nova maneira de sofrer e torturar pode ser desenvolvida dessa maneira? Você pode imaginar alguém controlando sua mente? O que eles podem fazer com você? Que pensamentos horríveis posso implantar em sua mente? Pode haver imagens [do] mais próximo terrivelmente torturado, e assim por diante.
Eu sei que isso não é uma piada. É uma coisa muito séria.
PENSAMENTO VULNERÁVEL
Se imaginarmos isso acontecendo em uma sociedade onde as relações econômicas e de poder estão estruturadas da maneira como estão agora, penso, isso significa que os privilegiados serão aqueles que conseguirão esconder suas mentes, que se excluirão dessa rede. .
Nem todo mundo será controlado da mesma maneira. Esse é o primeiro problema, quem controlará o jogo e quem será excomungado?
É sempre assim. O primeiro pensamento quando um novo dispositivo de espionagem é desenvolvido geralmente é ‘como posso escapar dele?’ O privilégio é estar fora dele. Mentir se tornará mais complicado, mas também se tornará mais privilegiado.
INTELIGÊNCIA X SIMPLIFICAÇÃO
Uma ideia de IA derrotando humanos no campo do intelecto depende de como você define ser inteligente. Se por inteligente você simplesmente quer dizer uma operação matemática ou lógica mais complexa, além de conhecer mais dados, os computadores são definitivamente mais inteligentes. No entanto, ainda há esperança para nós.
A grandeza da mente humana não está em conhecer todos os detalhes, mas em escolher entre a multidão de dados para captar a essência e simplificá-la.
Um livro do psicólogo soviético Aleksandr Luria intitulado ‘A mente de um mnemonista’ descreve um cara com memória perfeita. Lembrou-se de quase tudo o que leu e viu. As conseqüências psicológicas disso foram horríveis, porque ele sabia tanto que não podia decidir nada, no momento em que quis tomar uma decisão, centenas de outros dados surgiram em sua mente. Ele não tinha a grande capacidade de simplificação.
Os computadores podem ser mais inteligentes do que nós em algum nível mecânico – e até mesmo no aprendizado -, mas não creio que possam lidar com o fenômeno da simplificação.
OS ROBÔS
O paradoxo de hoje é que temos medo de robôs que supostamente poderiam assumir nossos empregos, mas os trabalhadores humanos trabalham mais do que nunca. Segundo, ainda temos a ideia de que os robôs farão o trabalho primitivo por nós e apenas planejaremos o que eles estão fazendo. Em muitas empresas, do McDonald’s àquelas que prestam serviços diários, são os robôs que fazem o planejamento e os indivíduos que o executam.
No McDonald’s, tudo é programado por robôs e pessoas ‘estúpidas’ servem apenas outras pessoas. Eventualmente, depende da ordem social; se permanecermos na mesma ordem capitalista em que estamos, será ainda pior do que hoje.
Existe a possibilidade, a esperança, de trabalharmos menos. No entanto, muitas novas formas estúpidas de diversão podem preencher nosso tempo livre. Eu ainda acredito no trabalho e na criatividade. Se não temos coisas suficientes para fazer, mesmo que nos sintamos felizes apenas sentados, assistindo filmes e bebendo, será uma existência muito estúpida. Logo ficará terrível.
Não é tecnologia como tal, é como usaremos a tecnologia socialmente.
