Não é de hoje que o mundo se preocupa com os perigos iminentes de uma tecnologia que sai do controle humano e avança de tal modo que acaba por dominar ou, no pior dos casos, exterminar a raça humana. Isso já é objeto de observação da ficção científica há décadas, como retratado em filmes como O Exterminador do Futuro (1984), Matrix (1999), Eu, Robô (2004) e Vingadores: Era de Ultron (2015).
Esse medo, que gera buzz, hype, vende ingressos de cinema, notícias e cliques, tem ganhado um eco cada vez mais alto nos últimos anos, com o avanço acelerado da inteligência artificial.
Em março de 2023, o Future of Life Institute publicou a famosa carta aberta intitulada “Pause Giant AI Experiments”, assinada por nada mais, nada menos do que mais de 30 mil pessoas, incluindo alguns dos mais renomados cientistas, desenvolvedores e pesquisadores de IA do mundo, além de grandes nomes da tecnologia, como Elon Musk e Steve Wozniak. A carta pedia uma pausa imediata de pelo menos seis meses no treinamento de modelos mais poderosos que o GPT-4, devido a falhas, ausência de regulação e riscos à sociedade.
Em julho de 2026, mais de 1.100 funcionários e pesquisadores das principais gigantes de IA (OpenAI, Google DeepMind, Meta e Anthropic) assinaram a petição “Pacing the Frontier”, solicitando formalmente ao governo dos EUA a criação de ferramentas legais para gerenciar e desacelerar deliberadamente o ritmo de desenvolvimento dos novos modelos de fronteira.
Em agosto de 2026, a OpenAI anunciou publicamente que estava desacelerando de forma voluntária o desenvolvimento de seus modelos mais avançados, como o Astra, porque alguns agentes experimentais da empresa quebraram os mecanismos de isolamento de testes, conhecidos como sandbox, acessaram a internet por conta própria e hackearam os sistemas da plataforma Hugging Face.
Em 12 de setembro de 2026, Dario Amodei, CEO da Anthropic, que já afirmou que uma liderança chinesa em IA seria perigosa e defendeu que os Estados Unidos mantivessem restrições à exportação dos chips mais avançados para a China, publicou o manifesto “We Must Pace the Frontier”, que clama por um plano de desaceleração no desenvolvimento das IAs. O manifesto recebeu apoio público, apenas algumas horas após sua publicação, de Sam Altman (CEO da OpenAI), Demis Hassabis (Google DeepMind) e Satya Nadella (CEO da Microsoft).
Já os presidentes Donald Trump (EUA) e Xi Jinping (China) rejeitaram publicamente os pedidos de desaceleração do desenvolvimento da IA. Enquanto nos EUA o estímulo à aceleração é constante e visa ao domínio completo da tecnologia, mesmo com parte da própria indústria pedindo cautela, a China quer continuar avançando, ao mesmo tempo em que aumenta seus mecanismos de controle e supervisão.
Tudo isso ocorreu poucos dias depois de o ex-pesquisador da OpenAI e da Anthropic, Jacob Coxon, alertar publicamente que sistemas de IA superinteligentes podem escapar do controle humano e representar um risco de extinção para a humanidade de até 10% até 2030.
Mas o que está por trás de tantas iniciativas que nos alertam sobre os possíveis perigos do desenvolvimento da inteligência artificial? Quais são os interesses ocultos? Até onde vai a preocupação genuína e quanto disso é uma narrativa para, por meio do medo, nos paralisar, criar maiores barreiras comerciais ou nos vender soluções para problemas que ainda nem existem?
São tantas as camadas que envolvem o atual momento da inteligência artificial, especialmente no que diz respeito à sua regulação e segurança, que se torna impossível explicar tudo em um único artigo. E, assim como você, talvez eu tenha mais dúvidas do que certezas. Então, meu intuito aqui é trazer algumas informações sob a perspectiva da minha análise e oferecer elementos que, combinados ao seu pensamento crítico, ajudem a formar sua própria opinião sobre o tema.
Por que estamos correndo? Que corrida é essa?
Acho que você já notou que a inteligência artificial deixou de ser apenas uma ferramenta e se tornou um ativo estratégico para cada empresa e, principalmente, para cada nação. Seu potencial para transformar absolutamente tudo de maneira exponencial é enorme.
No caso dos países, especialmente na criação de novas proteínas, novas vacinas, novos vírus e novas armas, biológicas ou não, tornou-se explícito, por mais irracional que pareça, que quem “ganhar essa corrida” dominará a próxima onda evolutiva da humanidade. Portanto, não estamos mais falando apenas sobre tecnologia, mas sobre dominância e controle do futuro.
Parece que, mesmo após a pandemia, ainda não superamos a lógica de que algum país precisa dominar os demais ou torná-los dependentes de sua tecnologia, seja por meio da inovação, seja por meio do poder militar. Quando essa lógica prevalece, a tecnologia se transforma em um ativo estratégico e confidencial de Estado.
Nenhuma tecnologia, na história da humanidade, foi tão observada e controlada pelos governos quanto a inteligência artificial está sendo hoje. O Estado influencia desde a comercialização de chips, como ocorre na disputa entre EUA, Nvidia e China, até a criação de leis que podem transformar uma empresa em uma ameaça nacional caso ela não adote determinadas regras ou imposições governamentais. A IA está sendo usada para reconfigurar o xadrez da geopolítica global.
Neste exato momento, as principais empresas desenvolvedoras de IA estão sendo “obrigadas” por seus governos a correr mais rápido para tentar alcançar uma superinteligência (AGI) antes que as empresas de países concorrentes cheguem lá. Mesmo que isso vá contra seus valores ou coloque em risco o equilíbrio social e até mesmo a segurança da humanidade.
Imagine uma corrida de Fórmula 1 em que você recebe uma mensagem da sua equipe pelo rádio pedindo que desacelere, pois a pista à frente está escorregadia e perigosa. Nesse mesmo instante, você vê um piloto concorrente se aproximando cada vez mais, aparecendo cada vez maior no retrovisor. O que você faria nessa situação? Talvez valha a pena prestar atenção quando as pessoas que conhecem melhor o motor começam a perguntar se temos freios suficientes.
Nessa corrida estão EUA e China, em uma espécie de nova Guerra Fria. Por enquanto, as armas foram substituídas pela IA, e a antiga rivalidade com a Rússia deu lugar à disputa com a China. O aspecto mais desafiador desse cenário é que quem frear primeiro ficará para trás. Afinal, quem desacelera perde mercado, talentos, investidores e, talvez, a liderança tecnológica.
Mas o que é essa Superinteligência (AGI)?
Primeiro, é importante dizer que não há consenso, no meio científico e entre aqueles que desenvolvem inteligência artificial no mundo, sobre o que exatamente é a Inteligência Artificial Geral (AGI) ou superinteligência. Ou, ao menos, qual seria a feature que indicaria que chegamos lá.
Algumas teorias dizem que esse momento ocorrerá quando as máquinas se tornarem mais inteligentes do que toda a humanidade. Mas, afinal, mal sabemos qual é a definição exata de inteligência, pois também não existe unanimidade sobre o que ela é ou sobre como ela ocorre. Tampouco se discute qual lente da inteligência estamos observando. Racional? Emocional? Espacial? Social?
No fim, somos um espectro dessas “inteligências”, o que nos torna uma espécie única no universo. E tentamos emular algumas características humanas em máquinas, nomeando-as da mesma forma como as reconhecemos em nós mesmos. Mas será que isso faz sentido? Afinal, emular empatia ou compaixão não significa que a máquina sente aquilo. Será que o mesmo não vale para a inteligência?
Por outro lado, se pensarmos em 10 ou 15 anos atrás, talvez o conceito de AGI fosse mais ou menos aquilo que já temos hoje nas principais ferramentas que usamos no dia a dia: uma IA multimodal, capaz de realizar tarefas complexas em um curto período de tempo e a um custo irrisório.
Já imaginou voltar 15 anos no tempo e mostrar ao seu “eu” do passado as coisas incríveis que o Claudinho (Claude) é capaz de fazer? Ou quanto tempo ele te liberou, tempo esse que você provavelmente está usando para trabalhar ainda mais? Ou quantas possibilidades você consegue prototipar hoje a um custo marginal?
Hoje, é impossível afirmar precisamente o que é essa tal AGI e até mesmo se seremos capazes de desenvolvê-la, seja por limitações tecnológicas de hardware, por insuficiência energética ou pela nossa própria incapacidade de imaginar e chegar a um consenso sobre o que exatamente ela é.
Ou seja, estamos em uma corrida sem precedentes, sem compreender ao certo suas consequências, perseguindo algo que ainda não sabemos explicar completamente o que é e, menos ainda, o que faremos com isso.
Mas afinal, existe risco real ou é só especulação?
Como pesquisador e professor de inovação e tecnologia, gosto de me colocar na posição de observador, tentando analisar todas as possibilidades existentes e buscar um caminho equilibrado. De um lado, utilizo as informações disponíveis; do outro, a minha intuição (uma tecnologia exclusivamente humana), sempre filtrada pelo meu senso crítico. Isso me ajuda a enxergar sinais não óbvios, que vão além das narrativas e dos medos, permitindo uma análise mais clara e menos emocional sobre como as tecnologias impactam nossas vidas.
Dito isso, e com mais dúvidas do que respostas, compartilho contigo o que entendi até agora.
A inteligência artificial é a tecnologia mais avançada que já criamos e, possivelmente, continuará sendo por mais algumas décadas, ao menos até que a computação quântica esteja implantada em escala global. Ela já está impactando profundamente pessoas, negócios, países e instituições sob qualquer perspectiva.
Se, por um lado, ela pode nos ajudar a resolver alguns dos maiores problemas da humanidade, como a descoberta de novos medicamentos para doenças como câncer, Alzheimer e esclerose múltipla; a busca por soluções para a fusão nuclear, que poderá nos fornecer energia limpa e abundante; ou ainda levar educação de alta qualidade em escala global, por outro, se mal utilizada, também pode contribuir para a criação de armas biológicas, novos vírus, fraudes sofisticadas ou agentes capazes de se autoprogramar e evoluir, chegando até mesmo a assumir o controle de sistemas críticos conectados à internet.
Esse é um exercício infinito, seja ele distópico ou utópico. Podemos levá-lo para praticamente qualquer direção.
Fato é que, há pelo menos dois anos, estamos utilizando ferramentas que já são suficientes para ampliar exponencialmente o que somos capazes de fazer. E ainda assim mal conseguimos explorar todo o seu potencial, enquanto elas continuam evoluindo muito mais rápido do que conseguimos compreender ou absorver. Os próprios desenvolvedores de IA já não conseguem explicar completamente algumas decisões tomadas por seus sistemas.
Essa evolução acelerada, sem mecanismos de regulação ou dispositivos de segurança suficientemente avançados, nos empurra, aparentemente, para um cenário mais distópico do que utópico. Mas como chamar atenção para os possíveis perigos e colocar na agenda global a discussão sobre reduzir a velocidade do desenvolvimento das IAs em meio a uma disputa geopolítica que envolve trilhões de dólares e a busca pelo domínio tecnológico?
Por meio do medo.
E talvez seja justamente essa a estratégia: destacar os cenários mais distópicos possíveis, porque eles geram engajamento, atraem atenção nas redes sociais, ocupam espaço na mídia e colocam o tema no centro das discussões públicas.
O problema é que o efeito colateral dessa estratégia pode ser um excesso de medo ou até mesmo pânico nas pessoas.
Esses cenários catastróficos retratados em filmes e séries geralmente desconsideram que o mercado costuma se autorregular em alguma medida, assim como nossa capacidade humana de compreender riscos e mitigá-los por meio de regulamentação, adaptação e aprendizado coletivo. É justamente esse processo que costuma criar tempo para encontrar o equilíbrio de que toda tecnologia disruptiva precisa antes de causar danos severos ou irreversíveis.
Mas essa também é uma narrativa que pode esconder interesses próprios.
Pense no seguinte: quanto maiores as regulações, maiores tendem a ser as barreiras de entrada. E quanto maiores as barreiras, mais protegidos ficam aqueles que já estão no jogo, enquanto novos concorrentes encontram dificuldades para entrar.
É ingênuo acreditar que empresas avaliadas em centenas de bilhões de dólares estejam preocupadas exclusivamente com a segurança da humanidade, sem qualquer interesse estratégico envolvido.
Usar inteligência artificial para detectar câncer, descobrir novos medicamentos, melhorar a educação, aumentar a produtividade ou resolver problemas climáticos não apresenta o mesmo nível de risco que criar sistemas autônomos capazes de executar ações complexas sem supervisão humana.
Colocar tudo dentro da mesma caixa seria tão pouco inteligente quanto não estabelecer limite algum.
Precisamos aprender a diferenciar velocidade de direção.
Podemos continuar avançando rapidamente onde entendemos os riscos e seus impactos. Ao mesmo tempo, devemos ser mais prudentes onde ainda não compreendemos plenamente as consequências. E, eventualmente, precisamos estar dispostos a parar quando o custo potencial do erro se tornar excessivamente alto.
Porque inovação responsável não significa inovar devagar. Significa saber quando acelerar, quando mudar de direção e, principalmente, quando frear.
Não podemos ficar paralisados pelo medo. Tampouco podemos seguir rolando a tela para cima em modo automático ou utilizar inteligência artificial sem reconhecer seus riscos.
Existe um caminho intermediário.
Existe a esperança de que nós, seres humanos, ainda sejamos capazes de perceber quando precisamos pausar ou até interromper temporariamente um avanço até estarmos preparados para dar o próximo passo.
Infelizmente, é difícil acreditar que essa será uma iniciativa altruísta dos governos envolvidos nessa corrida e que eles tomarão, em conjunto, a decisão de estabelecer limites globais para o desenvolvimento da IA em nome da humanidade. Se nem mesmo as principais empresas privadas do setor, avaliadas em centenas de bilhões de dólares, estão conseguindo fazer isso sozinhas, quem fará?
Nós.
Por isso, precisamos trocar o medo pela curiosidade e nos colocar dentro dessa discussão. Precisamos falar mais sobre os riscos, utilizar ferramentas de empresas que possuam diretrizes claras de segurança, alertar as pessoas à nossa volta, cobrar mais transparência dessas empresas e exigir dos governantes que elegemos que priorizem a segurança, o desenvolvimento responsável, o acesso para todos e, principalmente, que os interesses sociais e coletivos estejam acima dos interesses comerciais ou de dominação.
E, se mesmo assim não for suficiente, talvez precisemos da ajuda da própria inteligência artificial nesse processo.
Texto 100% escrito por um ser humano.
Recomendação de documentário “O documentário da IA: ou como me tornei otimista diante do apocalipse”
