Para Fábio Tiepolo, CEO da StaryaAI, previsões sobre a extinção da humanidade devem ser tratadas com cautela, enquanto riscos mais imediatos, como perda de controle sobre decisões automatizadas, já exigem atenção
A inteligência artificial pode representar uma ameaça à própria humanidade? A pergunta, antes mais associada à ficção científica e a debates acadêmicos, passou a ocupar espaço crescente nas discussões sobre o avanço dos sistemas de IA.
Entre previsões sobre riscos extremos e o uso cada vez mais presente da tecnologia em empresas e processos decisórios, o debate também levanta questões menos distantes: até que ponto decisões importantes podem ser delegadas às máquinas? Quem responde quando um sistema automatizado erra? E como garantir que o avanço da capacidade da IA seja acompanhado por mecanismos de segurança e controle?
Para Fábio Tiepolo, CEO da StaryaAI, previsões de cenários extremos não devem ser tratadas como fatos, mas os alertas feitos por pesquisadores que atuam na fronteira da tecnologia merecem atenção. Segundo ele, o desafio mais imediato está na combinação entre autonomia dos sistemas, escala de utilização e ausência de mecanismos adequados de governança.
A seguir, Tiepolo comenta os riscos que considera mais concretos, o futuro da tecnologia nos próximos dez anos e por que preservar a capacidade humana de decisão pode se tornar uma das principais questões da era da inteligência artificial.
Quando você vê a polêmica envolvendo Coxon e Hubinger sendo notícia, sua reação é mais de alerta ou de especulação?
Eu levo o alerta a sério, mas não trataria a previsão como fato. São duas coisas muito diferentes. Quando pesquisadores que estão na fronteira do desenvolvimento da inteligência artificial manifestam uma preocupação dessa magnitude, seria irresponsável simplesmente descartá-la. Por outro lado, existe uma distância enorme entre reconhecer que há um risco e afirmar que a IA provavelmente vai extinguir a humanidade nos próximos dez anos.
Minha preocupação maior está menos na previsão e mais no sinal que ela traz. Estamos desenvolvendo sistemas cada vez mais capazes, dando a eles mais autonomia e colocando-os progressivamente dentro de processos críticos. Isso exige que segurança, governança e controle evoluam na mesma velocidade que a capacidade dos modelos.
A humanidade já viveu outras grandes transformações tecnológicas. Em todas elas, primeiro descobrimos o que era possível fazer e depois construímos instituições, regras e mecanismos de segurança. Com IA, talvez não tenhamos o luxo dessa sequência. Precisamos fazer as duas coisas simultaneamente.
Qual é a importância de casos como esse para o debate sobre inteligência artificial?
Eu mencionaria o episódio, mas não faria dele o centro da resposta. O caso é relevante porque mostra que o debate deixou de ser apenas acadêmico. Pessoas que trabalham diretamente na fronteira da tecnologia estão levantando questões importantes. Mas a discussão que interessa para nós é maior do que Coxon, Hubinger ou Anthropic.
A pergunta relevante não é se concordamos com uma determinada probabilidade de extinção. É se estamos construindo mecanismos de governança compatíveis com o poder que estamos colocando nas mãos desses sistemas.
Qual é o risco real da IA que mais preocupa hoje em áreas como saúde, seguros e mercado financeiro?
Hoje, meu maior receio não é uma IA consciente decidindo atacar a humanidade. É algo muito mais simples e muito mais próximo: organizações delegando decisões importantes a sistemas que não conseguem compreender, auditar ou controlar adequadamente. Imagine uma IA influenciando uma decisão clínica, uma concessão de crédito, uma análise de risco ou uma autorização de procedimento. Ela pode produzir uma resposta extremamente convincente e ainda assim estar errada.
E existe um agravante: quanto melhor a IA fica, maior tende a ser nossa confiança nela.
Por isso, para mim, o risco atual está na combinação de autonomia, escala e falta de governança. Um erro humano normalmente tem alcance limitado. Um erro automatizado pode ser replicado milhares ou milhões de vezes antes de alguém perceber.
Se tivesse que apostar sua credibilidade numa previsão para os próximos dez anos, o que aconteceria?
Eu apostaria que a inteligência artificial vai se tornar infraestrutura.Hoje ainda falamos de IA como produto ou ferramenta. Em dez anos, provavelmente vamos falar muito menos sobre “usar IA”, da mesma maneira que hoje ninguém diz que uma empresa “usa internet”.
Ela estará incorporada aos processos, sistemas e decisões das organizações. Também acredito que teremos agentes digitais executando parcelas relevantes do trabalho intelectual que hoje dependem exclusivamente de pessoas. Isso vai mudar empresas, profissões e modelos econômicos inteiros. Não significa necessariamente substituir seres humanos. Significa alterar profundamente aquilo que consideramos trabalho humano.
Minha aposta, portanto, não é numa extinção da humanidade. É numa transformação muito rápida da forma como produzimos, decidimos e trabalhamos — talvez comparável, em impacto, às grandes revoluções tecnológicas da história, mas acontecendo em uma fração do tempo.
Existe algum risco de o mercado estar subestimando enquanto discute cenários de extinção?
Sim. A perda gradual da capacidade humana de decidir.Existe uma diferença importante entre utilizar inteligência artificial para ampliar nossa capacidade e terceirizar nosso julgamento para ela. Esse processo pode acontecer silenciosamente. Primeiro usamos IA para recomendar. Depois para decidir. Depois simplesmente aceitamos suas decisões porque estatisticamente ela costuma acertar mais do que nós.
Em saúde, finanças, seguros, justiça ou gestão empresarial, isso levanta uma pergunta fundamental: em que momento o ser humano deixa de ser o responsável pela decisão e passa a ser apenas quem confirma aquilo que a máquina decidiu? Esse risco me parece muito mais concreto no curto prazo do que os cenários de ficção científica. E, paradoxalmente, recebe muito menos atenção.
Qual papel a StaryaAI pretende ocupar nessa discussão?
A Starya não deveria ser nem a empresa que tranquiliza dizendo que não existe risco, nem a empresa que amplifica previsões apocalípticas. Nosso papel deve ser mais pragmático: construir a infraestrutura para que empresas consigam usar inteligência artificial de maneira poderosa, mas governável.
A discussão sobre o futuro da superinteligência é importante e precisa continuar. Mas existe uma responsabilidade acontecendo agora. Empresas estão colocando IA dentro de processos reais, atendendo pessoas reais e tomando decisões que produzem consequências reais.
É nesse ponto que queremos atuar: transformar princípios abstratos de segurança, governança e responsabilidade em arquitetura, processos e tecnologia. No fim, talvez a pergunta mais importante não seja “até onde a inteligência artificial vai chegar?”. É: quanto controle queremos preservar sobre aquilo que estamos construindo?
