“Talvez vivamos mais e com mais saúde, mas com muito menos controle sobre nossas vidas”

Em sua última obra, "Nexus: uma breve história das redes de informação, da Idade da Pedra à inteligência artificial", Yuval Noah Harari, autor dos best-sellers "Sapiens" e "Homo Deus", analisou como as redes de informação definiram o mundo atual e possíveis ameaças da IA à sociedade. Na entrevista exclusiva a seguir, ele reflete sobre os riscos, os benefícios e as necessidades de governança para o uso da tecnologia na medicina. Confira:
1. Em "Nexus", você explora o impacto da inteligência artificial em nossa sociedade. Como você vê a transformação da saúde humana com a crescente presença da IA em tratamentos e diagnósticos?
De certo modo, a revolução moderna da saúde começou com dados. Foi a minuciosa coleta de dados feita pelo médico John Snow, em Londres, nos anos 1850, que lhe permitiu identificar uma bomba d’água contaminada como fonte de um grande surto de cólera. Até então, a maioria dos médicos acreditava que a cólera era transmitida pelo ar. Esse foi um ponto de virada na história da medicina moderna que evitou milhões de mortes por doenças transmitidas pela água.
Mas, até recentemente, o uso de dados para melhorar a saúde humana era limitado pelas capacidades do cérebro humano. Um especialista como John Snow conseguia encontrar um padrão entre centenas de mortes por cólera, mas não teria como analisar milhões de registros hospitalares em busca de padrões. Mesmo uma grande organização, bem financiada, teria dificuldades. É aí que a IA tem maior potencial para impactar a saúde.
Algoritmos são muito superiores aos humanos em identificar padrões em oceanos de dados. Encontrar padrões exige tanto a capacidade de gerar ideias quanto a de tomar decisões. Por exemplo: quais sinais os médicos devem observar ao monitorar surtos de novas doenças? A IA não só poderia criar esses critérios, como também decidir quais fenômenos melhor se encaixam neles. Quando vier a próxima pandemia, a IA poderá detectá-la antes de nós e talvez nunca saibamos exatamente quais sinais ela estava analisando.
É possível que, nas próximas décadas, a IA alcance avanços sem precedentes na medicina e, ao mesmo tempo, nos torne muito mais ignorantes sobre nossa própria saúde. Pode ser que tenhamos dificuldade em compreender por que determinados novos tratamentos funcionam ou como a IA desenvolveu novas técnicas cirúrgicas. Talvez vivamos mais e com mais saúde, mas com muito menos controle sobre nossas próprias vidas.
2. Em sua opinião, quais são os maiores riscos e também os benefícios da implementação de sistemas de inteligência artificial na medicina?
Além de analisar registros hospitalares infinitos, a IA também terá acesso a formas muito mais personalizadas de dados. Nossos celulares, relógios e anéis inteligentes já conseguem coletar vastas informações sobre nosso estado físico e mental. Esses dispositivos podem abrir caminho para tratamentos sob medida e monitoramento 24 horas, transformando nossos sistemas de saúde. Será cada vez mais difícil para qualquer médico competir com um sistema de IA que acompanha você o dia inteiro e sabe o que está acontecendo dentro do seu corpo.
Mesmo que você não use esses dispositivos, a IA ainda pode coletar detalhes muito íntimos sobre você. Já é possível que algoritmos determinem seu estado emocional, perfil de personalidade e até condições médicas apenas rastreando o movimento do seu olhar. Em breve, cada câmera poderá se tornar uma janela para sua alma.
E aí está o grande perigo. Mesmo nos piores regimes totalitários do século 20, era impossível para o ditador saber exatamente o que você estava pensando. Agora imagine um aparato de vigilância capaz de rastrear remotamente seu pulso e batimentos cardíacos, identificar quando você está entediado ou com raiva, ou ler microexpressões no seu rosto das quais você nem se dá conta.
As mesmas tecnologias que poderiam viabilizar os melhores sistemas de saúde do mundo também poderiam permitir ditaduras digitais piores do que qualquer coisa que já vimos.
3. A IA pode ajudar a enfrentar desigualdades no acesso à saúde, especialmente em regiões remotas ou economicamente desfavorecidas?
Pessoas que vivem em áreas pobres ou remotas podem se beneficiar muito de cuidados de saúde baseados em IA. É muito mais fácil baixar um aplicativo do que construir um hospital inteiro. Mas a IA quase certamente agravará outros tipos de desigualdade. Já estamos testemunhando o surgimento de uma nova forma de colonialismo de dados.
Para produzirem a melhor IA possível para a saúde, as empresas de tecnologia precisarão de grandes volumes de dados sobre condições médicas. De onde virão esses dados? De muitos países, inclusive do Brasil. Eles serão coletados e enviados para os centros imperiais em São Francisco e Pequim. Com esses dados, empresas dessas cidades desenvolverão IA de ponta e depois exportarão os produtos de volta às colônias de dados. Os dados brasileiros ajudarão a enriquecer corporações em São Francisco e Pequim, enquanto o povo do Brasil continuará

Fonte original: abrir