Joseph Stiglitz diz que tecnologia ameaça degradar o ecossistema de informação com vozerio online, distorcendo percepções e decisões
The post Nobel diz que IA coleta dados que são ‘lixo’ e ameaça toda a informação do mundo appeared first on InfoMoney.
A IA não vai apenas remodelar o trabalho e os mercados; Joseph Stiglitz diz que ela também pode corroer silenciosamente as informações das quais esses sistemas dependem. À medida que grandes modelos de linguagem (LLMs) vasculham nossos comentários sarcásticos no Reddit e as vozes marginais mais barulhentas em fóruns extremistas, o laureado com o Nobel alerta para um mundo em que tudo parece mais orientado por dados, mas os dados subjacentes são cada vez mais “lixo”.
“No caso da IA, acho que há alguns outros problemas mais profundos”, disse o economista à Fortune. “Temos não apenas um problema no mercado de trabalho… mas há outro lado do que eu chamaria de externalidades da informação”, que Stiglitz descreve de forma simples como lixo entra, lixo sai.
Leia também: YouTube libera detecção de deepfake para políticos brasileiros. Entenda como funciona
O risco não é apenas a perda de empregos; é um ciclo de retroalimentação quebrado entre a verdade e os sistemas que usamos para interpretar a realidade — de mercados de previsão a modelos financeiros e ao debate político. Em essência, a IA é tão inteligente quanto os dados que recebe, e, quando continua a coletar informações pouco confiáveis, o resultado se torna tão distorcido quanto as informações absorvidas.
Na visão dele, os modelos atuais são construídos sobre um acordo falho: eles coletam vorazmente jornalismo, pesquisa e conversas online enquanto enfraquecem as próprias instituições que produzem conhecimento de alta qualidade.
O resultado, teme ele, é um mundo em que as pessoas são guiadas pela retórica online que veem ser reproduzida pela IA — pense na queda do mercado provocada por um relatório da Citrini Research divulgando um “PIB fantasma” ou no ensaio viral apocalíptico sobre IA de Matt Shumer — e não por algo ancorado na realidade.
A IA está “roubando informação” das fontes de que precisa
Stiglitz gostaria de agradecer por você ler este artigo, mesmo que seu ponto de partida seja direto e sem rodeios. “A IA basicamente está roubando informação da mídia tradicional”, disse ele, “e isso significa que a mídia tradicional não tem os recursos nem os incentivos para produzir informação.”
É verdade que algumas empresas de IA pagam por certo conteúdo jornalístico. A OpenAI, por exemplo, tem um acordo de conteúdo com a News Corp, proprietária do Wall Street Journal.
Ainda assim, disse Stiglitz, a IA não tem nem interesse nem capacidade de produzir nova informação de qualidade. “E o resultado de tudo isso é que há um risco real de deterioração do ecossistema geral de informação.”
Se as melhores fontes de informação são lentamente “desfinanciadas”, enquanto as formas mais baratas — como seções de comentários, memes partidários e conteúdo de baixo esforço — proliferam, os dados de treinamento passam a se inclinar para o que é mais abundante e barato, o que significa que chatbots tenderão a repetir aquilo que absorvem de fóruns online.
Essa é a primeira forma pela qual a fome da IA pelo que está online pode sair pela culatra: ao canibalizar os modelos de negócio que sustentam o trabalho sério e alterar a composição do que existe para ser coletado em primeiro lugar.
Lixo entra, lixo sai em escala industrial
Stiglitz, que menciona o ecossistema de informação em seu livro de 2024, “The Road to Freedom: Economics and the Good Society” (O Caminho para a Liberdade: Economia e uma Sociedade Melhor, em tradução livre), recorreu novamente ao clichê “lixo entra, lixo sai”. “Se você está processando e disseminando lixo, tudo o que obtém no final é lixo — lixo entra, lixo sai.”
A expressão pode ser antiga, mas Stiglitz diz que continua bastante relevante. Sistemas de IA são excelentes em processar o que lhes damos, mas estão longe de ser tão bons em distinguir conhecimento de ruído.
“Há um risco real de que, apesar do potencial das novas tecnologias para melhorar o ecossistema de informação em áreas críticas, possamos acabar em uma situação pior”, disse. Quanto mais lixo entra — alegações não verificadas, teorias conspiratórias, campanhas artificiais de opinião, comentários de baixa qualidade — mais lixo refinado sai.
Ele teme que os usuários confundam esse verniz com verdade. “Eles vão achar que receberam informação altamente processada sem perceber plenamente até que ponto tudo o que fizeram foi reprocessar lixo”, disse. “Processar lixo com IA não substitui um único bom artigo acadêmico.”
Quando militantes antivacina superam cientistas
Em nenhum lugar esse risco é mais claro do que nos cantos mais distantes da internet, onde pontos de vista radicais costumam ser os mais barulhentos.
Pense em um típico fórum comunitário sobre um determinado tema. Graças ao anonimato da internet, os usuários ficam à vontade para expressar suas opiniões sobre a mais recente decisão política ou acontecimento cultural.
Como resultado, esses espaços são ambientes em que a desinformação é mais abundante — e a ciência que a desmente recebe pouca atenção, quando recebe. Vacinas são um estudo de caso perfeito, diz Stiglitz.
“Os militantes antivacina são muito mais ativos na internet do que as pessoas que dizem que vacinas funcionam”, afirmou. Cientistas realizam testes, publicam alguns artigos densos e seguem em frente. Teóricos da conspiração inundam fóruns e redes sociais todos os dias.
“Então pode haver muito mais textos do lado contra do que aquele único artigo crucial que diz: ‘Aqui está o teste da vacina, e funciona. Aqui está a eficácia’”, explicou Stiglitz. “As IAs de hoje têm a capacidade de dizer que um único artigo é tudo de que precisamos? Não têm.”
Para modelos treinados com base em frequência bruta e engajamento, as vozes mais barulhentas vencem. A fome da IA por mais informação pode distorcer a realidade ao impulsionar a minoria apaixonada acima da maioria cautelosa, especialmente em áreas em que o interesse público depende da confiança em uma ciência lenta e metódica.
Mercados de previsão baseados na falta de informação
Em um artigo de 1980 com Sanford Grossman, Stiglitz argumentou que há um paradoxo no coração dos mercados eficientes: se os preços refletem plenamente toda a informação disponível, então ninguém tem incentivo para pagar para coletar essa informação, de modo que a própria informação que torna os mercados “eficientes” desaparece.
Ele diz que a IA e os mercados de previsão modernos estão repetindo essa história em escala maior. “É interessante você mencionar Grossman-Stiglitz”, disse à Fortune, “porque escrevi um artigo com um dos meus alunos de pós-graduação, Max Ventura, estendendo o modelo de Grossman-Stiglitz à IA, e o resultado que descrevi antes sobre como podemos piorar o ecossistema de informação foi, na verdade, uma referência a essa extensão.”
Quando “você não obriga as empresas de IA que coletam dados da Fortune e de todos os outros produtores de mídia” a pagar pelo que retiram, “eles não obtêm retorno, e assim os incentivos para fazer a pesquisa básica de qualidade que leva a um bom ecossistema de informação são enfraquecidos.” Mercados de previsão e algoritmos de negociação passam então a se apoiar nas saídas desses modelos, afastando ainda mais suas apostas de qualquer investimento real na verdade.
“Isso enfraqueceu os incentivos para produzir informação de alta qualidade, aumentou a capacidade de produzir informação de baixa qualidade e, portanto, há mais lixo entrando e mais lixo saindo”, disse. Um sistema concebido para agregar conhecimento acaba amplificando o que é mais barato e abundante.
IA como apoio, não como oráculo
Apesar de tudo isso, Stiglitz não acha que a resposta seja proibir ou ignorar a IA. Ele próprio a utiliza e tenta ensinar seus alunos a fazer o mesmo — sem confundir uma resposta elegante com um argumento sólido.
“Procuramos ensiná-los a usar a IA como ferramenta de pesquisa”, disse. “Então, você sabe, não estamos abandonando a IA. Eu uso IA como parte da minha pesquisa. É uma ferramenta de pesquisa incrível, mas não substitui o pensamento nem a análise.
“Ela pode ajudar a encontrar fontes, desenvolver ideias”, acrescentou. “Mas, no fim, é preciso fazer o trabalho duro.” Para ele, os resultados de um modelo são “na verdade apoios para eu começar a pensar sobre as coisas talvez de forma um pouco diferente”, não conclusões a serem aceitas sem questionamento.
Ainda assim, ele acredita que deve haver alguma intervenção em nível governamental para evitar que a deterioração da informação se agrave. “Na ausência de regulação governamental”, alertou, “há pelo menos um risco significativo de acabarmos com um ecossistema de informação pior em várias áreas de preocupação.”
2026 Fortune Media IP Limited
The post Nobel diz que IA coleta dados que são ‘lixo’ e ameaça toda a informação do mundo appeared first on InfoMoney.
InfoMoney
