As Consequências da Dependência de IA na Consumo de Notícias

O Crescimento da Dependência em Modelos de Linguagem

Nos últimos anos, a utilização de inteligência artificial para a coleta de informações cresceu de forma exponencial. Um entanto, uma tendência recente tem mostrado como modelos de linguagem de grande escala (LLMs), como ChatGPT, Claude e Gemini, estão sendo cada vez mais utilizados para verificação e consumo de notícias. Relatórios do Pew Research Center indicam que um em cada cinco adolescentes nos EUA usa LLMs regularmente para se informar, enquanto um em cada quatro jovens adultos já reportou utilizar esses modelos para esse fim pelo menos uma vez.

O Paradoxo da Dependência da IA

Um novo estudo aberto realizado pelo MIT Media Lab traz informações alarmantes para esses usuários. Pesquisadores descobriram que, ao longo de um mês, os participantes que confiaram em sistemas de IA para verificar fatos na verdade se tornaram menos aptos a detectar desinformação por conta própria quando seus chatbots foram retirados. Este fenômeno é muitas vezes referido como o “paradoxo da dependência da IA”.

A dinâmica reflete tendências mais amplas de tecnologia sobre o chamado “desaprimoramento” (ou “transferência cognitiva”) bem documentadas ao longo das décadas. Os estudos sugerem que ferramentas como calculadoras e sistemas de GPS têm um impacto negativo nas habilidades cognitivas naturais dos usuários.

Resultados do Estudo do Media Lab

No estudo do Media Lab, que acompanhou 67 pessoas por quatro semanas enquanto avaliavam pares de manchetes e imagens de notícias, os participantes mostraram uma precisão 21% maior na detecção de notícias falsas com a assistência de um chatbot AI. Entretanto, uma nova dinâmica surgiu quando a IA não estava mais presente: ao final do quarto mês, o desempenho não assistido dos participantes em novas mensagens de notícias caiu 15 pontos percentuais em comparação ao início do estudo.

“Os usuários ficam animados com esses LLMs 'mágicos', mas esquecem que eles são apenas modelos estatísticos que prevêem o próximo ‘token’ em uma sequência de letras e palavras”, aponta Anku Rani, estudante de doutorado em artes e ciências midiáticas e co-autora do estudo.

Observações Comportamentais e Resultados

A análise qualitativa revelou padrões comportamentais distintos, classificando um quinto dos participantes como “Desenvolvedores de Dependência”, que gradativamente passaram de uma dependência ativa a uma aceitação passiva da orientação da IA. Em pesquisas pós-experimento, um participante reconheceu essa transição, mencionando: “Enquanto os chatbots enfatizavam que você deve verificar em várias fontes para garantir que uma história é verdadeira, eles não me ensinaram muito sobre como explorar o contexto das imagens”.

Os pesquisadores também ressaltaram que esses modelos de IA são particularmente suscetíveis a erros em meio a notícias emocionais de última hora, como evidenciado pela desinformação disseminada ao redor da tentativa de assassinato do presidente Trump e durante acontecimentos importantes na guerra iraniana.

Implicações para a Educação e o Futuro

Os resultados sugerem que como a IA interage com o usuário determina se seu impacto será como um “técnico” ou um “apoio”. Os pesquisadores esperam que projetos como este inspirem educadores a desenvolver planos de ensino que integrem ferramentas de IA em seus currículos. “É especialmente importante aumentar a conscientização em nossas escolas sobre as limitações do uso da IA como ferramentas de aprendizado”, afirma Pattie Maes, professora de Artes e Ciências Midiáticas. “As pessoas precisam saber que, se 'delegarem' seu pensamento, não irão aprimorar essa habilidade.”

A equipe compartilha a ideia de que a rápida evolução do campo de machine learning e deep learning exigirá educação contínua sobre os benefícios e desvantagens dos LLMs. “Ainda temos muito trabalho a fazer para garantir que não deleguemos completamente tarefas críticas que queremos continuar a realizar para esses modelos”, conclui Danry.