Me incomoda como a conversa sobre inteligência artificial chega carregada de certezas sobre coisas que ainda estão sendo investigadas. Um avanço vira anúncio de transformação completa, um alerta vira previsão de catástrofe, e quem tenta acompanhar fica procurando entender quanto daquilo já aconteceu e quanto depende de uma sequência de possibilidades.
Uma preocupação apresentada por alguém que trabalha desenvolvendo esses sistemas merece atenção. Essa pessoa pode conhecer problemas que ainda não chegaram ao público. Mas, quando um relato começa a circular, também precisamos conseguir distinguir o que ela observou daquilo que acredita que poderá acontecer a partir dessa observação. A experiência de quem fala importa, assim como os limites da conclusão.
Há avanços concretos nessa área. A própria Anthropic descreve resultados de IA auxiliando o desenvolvimento de novos sistemas, enquanto reconhece que ainda não chegou ao ponto de uma inteligência artificial desenvolver seu sucessor de forma completamente autônoma e que essa trajetória não é inevitável. Mesmo dentro de uma empresa envolvida nessa corrida, existem diferenças entre o resultado apresentado e o futuro projetado.
O que acho curioso é como a expectativa de um salto extraordinário pode servir a discursos que parecem discordar completamente. A possibilidade de sistemas muito mais capazes sustenta preocupações com perda de controle, mas também promessas de benefícios enormes. Em Machines of Loving Grace, Dario Amodei imagina transformações profundas em várias áreas, reconhecendo que está trabalhando com projeções. O futuro apresentado pode despertar esperança ou medo, enquanto sua proximidade continua sendo uma questão importante.
Também acho difícil deixar o dinheiro fora dessa conversa. Pra quem usa essas ferramentas, existem custos de assinatura, créditos e tentativas até chegar a um resultado útil. É razoável perguntar quanto valor já está sendo entregue e quanto da expectativa depende das próximas versões. Essa pergunta merece espaço mesmo quando as ferramentas atuais têm utilidade.
Me preocupa que a mistura de tudo isso acabe criando aversão a qualquer coisa relacionada à IA. Aplicações diferentes passam a carregar o peso de uma mesma discussão, como se experimentar uma ferramenta significasse concordar com todas as promessas das empresas que a desenvolvem.
Antecipar riscos é necessário, inclusive quando ainda existe incerteza. Ao mesmo tempo, gostaria de ver essa incerteza preservada quando o assunto chega ao público. Quando alguém apresenta uma previsão tão grande, quero entender o caminho que levou até ela e o que ainda precisaria acontecer para que se confirmasse.
