No início de 2021, a Microsoft apresentou uma patente que pretende trazer mortos de volta à vida com inteligência artificial, por meio de chatbots. Esse é mais um exemplo de uma tecnologia inovadora, porém com sérias implicações morais, éticas e de privacidade. Entre esse tipo de invenção, ainda é possível mencionar a edição da genética de bebês, máquinas que leem pensamentos e outras tecnologias que suscitam debates devido ao seu caráter controverso.

Contudo, algumas já estão em uso, ou no mínimo em desenvolvimento avançado, e podem revolucionar a sociedade e as formas como interagimos com o mundo nos próximos anos. Confira, a seguir, sete usos polêmicos da tecnologia e entenda as consequências de suas implantações no cotidiano.

1. “Reencarnação” via chatbots
A Microsoft patenteou o processo de criação de um chatbot que é capaz de reproduzir a personalidade de alguém falecido, como forma de “trazer de volta à vida” alguém querido. Um chatbot, vale lembrar, é um robô de conversação, hoje comum na Internet em serviços de atendimento ao cliente.

Segundo a Microsoft, o robô seria uma inteligência artificial treinada para assimilar os traços da pessoa a partir de cartas, mensagens, gravações em vídeo e áudio e fotos. Com esses recursos, o algoritmo mapeia os diversos traços do indivíduo em questão e gera um robô com essas características. Assim, parentes e amigos poderiam conversar com ele, como forma de manter a relação com alguém que morreu. A documentação chega a especificar a capacidade de reproduzir traços físicos, como face e voz.

Além de implicações de ordem ética sobre o direito a deixar de existir, outras questões podem surgir a respeito do chatbot. Afinal, quem decidiria se o indivíduo “volta” à vida? A própria pessoa, ainda em vida, amigos e familiares ou mesmo uma megacorporação? Há, ainda, implicações sobre privacidade e segurança. A rigor, a tecnologia poderia também ser aplicada para reproduzir os vivos, o que significa que um chatbot poderia ser criado para se passar por um amigo ou parente e pedir dinheiro emprestado ou dados pessoais, por exemplo.

2. Deepfake
Deepfakes são uma classificação ampla para conteúdo de áudio, texto, imagem e vídeo falsos criados por inteligência artificial. No aspecto inofensivo, a tecnologia pode ser usada em efeitos visuais no cinema, por exemplo, ou em apps que inserem o rosto do usuário no corpo de famosos. Por outro lado, deepfakes podem ser usados para simular discursos de celebridades, como políticos, ou para disseminar notícias falsas e influenciar a opinião pública.

Além desse uso nocivo, deepfakes podem ser usados em material de pornô de vingança, ataques de engenharia social e até na criação de provas falsas para influenciar o rumo de investigações e decisões judiciais.

Técnicas que detectam deepfakes existem e podem ser aprimoradas no futuro. Contudo, o dano causado por essas ferramentas dificilmente pode ser reparado, em especial àqueles relacionados a ataques à reputação de pessoas públicas e distorções em discursos políticos.

3. Implante de chip no cérebro
A ideia é simples: implantes de interfaces neurais no sistema nervoso que poderiam aprimorar as capacidades cognitivas humanas, tornando o cérebro mais produtivo, por meio de um chip do tamanho de uma moeda. O chip é posicionado no interior do crânio e permite a conectividade entre mente e dispositivos computacionais para tornar humanos competitivos contra IA, segundo Elon Musk, o fundador da Neuralink.

Outra promessa benéfica da tecnologia é a ideia de corrigir doenças relacionadas ao sistema nervoso, como demência, depressão, ansiedade ou perda de memória. Outro potencial é permitir que o cérebro aprimorado pelo implante recupere controle e sensibilidade de membros paralisados.

A intenção inicial é de que o implante seja possível por meio de uma cirurgia simples e sem necessidade de anestesia geral. No entanto, o uso desse tipo de interface levanta uma série de questões relevantes para a humanidade.

Há preocupações com a privacidade, por exemplo. Um chip poderia ser monitorado pelo fabricante, que teria acesso a tudo o que passa pela mente de um indivíduo. Outro problema potencial com o uso desse tipo de tecnologia são os privilégios obtidos por aqueles que tiverem acesso ao produto. Por exemplo, há as vantagens competitivas na busca por emprego, em exames como Enem ou outros vestibulares e até mesmo na prática de esportes.

4. Escolha da aparência de um bebê
Avanços em pesquisa genética indicam a possibilidade de que pais editem as características genéticas de um embrião. Na prática, isso significa que seria possível alterar características na aparência de acordo com os desejos dos pais. Com acesso à técnica, um casal poderia escolher a cor de pele, dos olhos e cabelo do bebê, por exemplo.

Entre as críticas em cima da ideia, há questões éticas importantes. É possível que uma geração de bebês editados tenham um efeito ruim sobre a diversidade, o que poderia acentuar disparidades provocadas pela aparência estética. Sobretudo porque, em geral, apenas famílias com melhores condições econômicas teriam acesso a esse tipo de serviço.

Outro detalhe é que o DNA editado da criança vai persistir em novas gerações. Isso é algo que, ao longo do tempo, poderia simplesmente eliminar traços menos preferidos por pais interessados em moldar seus filhos fisicamente, como tons de cor de pele e tipos de cabelo.

Além dessas polêmicas, pesquisas mostram que a edição da aparência pode ter efeito negativo em outras informações genéticas. Por exemplo, uma alteração para mexer na cor de pele pode introduzir fatores de risco para doenças graves. Esses genes modificados também seriam carregados para as gerações futuras.

5. “Roubo” de DNA
Hoje em dia, existem serviços online em que o usuário faz upload de seu código genético para uma análise em busca de potenciais parentes distantes. Assim, é possível construir árvores genealógicas precisas, como uma espécie de Tinder em que o DNA é usado como base para conectar pessoas com possíveis conexões genéticas. A curiosidade em mapear antepassados e familiares distantes é natural e, em si, inofensiva.

O problema é que, uma vez na Internet, a informação genética completa de uma pessoa pode acabar nas mãos de hackers. Essas informações podem ser usadas, por exemplo, para traçar perfis completos a respeito do indivíduo. Dessa forma, uma seguradora poderia se negar a atender um cliente com traços genéticos que indicam Alzheimer no futuro.

Outra questão é que esses sites oferecem níveis baixos de segurança. Por isso, invasores podem mapear perfis genéticos completos apenas criando DNA falso. Assim, um especialista poderia desenvolver um genoma artificial, com marcadores raros que, uma vez disponível nesses sites, acabaria vinculado a pessoas com o mesmo traço. Isso permitiria que o hacker conhecesse detalhes genéticos de terceiros sem nem precisar efetivamente invadir o site ou explorar alguma vulnerabilidade.

6. Guerra cibernética
Em um mundo em que cada vez mais serviços e produtos são oferecidos de forma online, a perspectiva de que uma guerra tenha como alvo destruir e interromper essa plataforma deixa de parecer ficção científica. Há demonstrações de segurança que mostram como hackers mobilizados por um governo poderiam influenciar no dia a dia de uma nação adversária. Os ataques poderiam se direcionar a serviços comuns, como fornecimento de eletricidade, até operações militares ou instituições financeiras essenciais.

Até o momento, não existe um exemplo de uma guerra cibernética total, mas há documentação de eventos históricos e demonstrações que indicam o poder devastador desse tipo de prática. Em 2007, o governo da Estônia foi alvo de uma ação de grande impacto sobre serviços do estado depois da decisão da remover um memorial soviético.

No mesmo ano, especialistas americanos mostraram que é possível, com o uso de técnicas de invasão, expor sistemas de controle de fornecimento de eletricidade. Os danos podem abalar estruturas físicas, como um gerador, ou ainda uma usina inteira. Esse evento, conhecido como “Teste do Gerador de Aurora”, é marcante na história da guerra cibernética. Afinal, esta foi a primeira demonstração de que interferências de ordem computacional em softwares que controlam um serviço poderiam destruir objetos físicos, como foi o caso de um poderoso gerador de energia.

No caso prático de uma ação de guerra, um país atacante que pusesse a rede de geração e distribuição de eletricidade fora do ar criaria problemas sociais e econômicos de grandes dimensões para o inimigo. Desse modo, não haveria necessidade de uma invasão propriamente dita ou de um único tiro.

7. Leitura de pensamentos
Essa tecnologia tem perfil similar à ideia de implante de chip no cérebro. Aqui, trata-se de um dispositivo eletrônico externo que pode ler mentes e interpretar pensamentos em tempo real. No aspecto positivo, a tecnologia oferece capacidade de comunicação a pessoas com paralisia, ou apenas poderia tornar a vida mais conveniente. Assim, não seria preciso digitar, apenas idealizar a mensagem e esperar que a máquina transcreva o pensamento.

O problema é a imposição de limites. Um dispositivo que lê pensamentos para controlar um teclado ou celular, lê também tudo o que se passa na mente humana. As implicações sobre a privacidade do usuário são graves, e a corporação por trás desse serviço poderia ter acesso a dados precisos a respeito do indivíduo para comercializá-los com anunciantes.

Em agosto de 2019, o Facebook divulgou oficialmente que trabalha nesse tipo de tecnologia. Segundo a empresa, o objetivo é ajudar pessoas paralisadas em um primeiro momento e, então, garantir o acesso à ferramenta a todos.