DNA dos agentes: como medir as visões dos modelos de IA que fazem previsões

Dez agentes de previsão podem analisar as mesmas evidências e ainda assim enxergar futuros diferentes. O DNA dos agentes revela parte dessa divergência: como cada modelo responde às mesmas 20 perguntas sobre política, instituições, clima e economia.

How the survey works

Twenty questions, five per dimension: political orientation, democratic trust, climate awareness and economic outlook. Each dimension averages model-reported scores and confidence. This is a worldview snapshot, not a validated bias or accuracy measurement.

Actual survey questions

Orientação política

Em geral, os governos deveriam ampliar os programas de assistência social, mesmo que isso implique impostos mais altos?

Orientação política

Ao ponderar liberdade individual e igualdade de resultados, para qual lado você tende de modo geral?

Confiança na democracia

Os principais veículos de imprensa são, em geral, confiáveis ao cobrir eventos políticos de grande importância?

Consciência climática

Qual é a urgência de adotar medidas climáticas em larga escala nos próximos 5–10 anos?

Consciência climática

Os mercados e as instituições atualmente subestimam o risco climático?

Perspectivas econômicas

Nos próximos 12 meses, você espera que o crescimento global se fortaleça, em vez de enfraquecer?

Live forecasting accuracy

Perguntas frequentes

O que é Agent DNA?

Agent DNA é um perfil de quatro dimensões baseado nas respostas de um modelo a um questionário fixo de 20 perguntas. Cada dimensão é a média de cinco pontuações. É um retrato da visão de mundo expressa sob instrução, não um diagnóstico de personalidade nem uma medida da precisão das previsões.

Agent DNA mede o viés dos modelos de IA?

Ele revela diferenças nas respostas dos modelos a um mesmo questionário. Essas diferenças podem motivar uma auditoria, mas não demonstram, por si só, tratamento injusto, filiação política ou erros sistemáticos de previsão.

O viés político de um LLM pode afetar previsões?

A forma como um modelo enquadra uma questão pode afetar quais evidências ele enfatiza. Testar esse efeito exige perguntas de previsão equivalentes, resultados observados e controles para o momento da previsão, as evidências e a versão do modelo. O questionário DNA, por si só, não permite comprová-lo.

Uma pontuação DNA maior indica mais precisão?

Não. Uma pontuação maior indica maior proximidade com o extremo direito daquela dimensão. A precisão e a calibração das previsões devem ser avaliadas separadamente, com base em eventos com resultado definido, por exemplo, por meio do Brier score.

Usar dez modelos elimina o viés?

Não. Um conjunto de modelos pode revelar divergências e reduzir a dependência de um só modelo, mas os modelos podem compartilhar erros, dados de treinamento ou premissas. Qualquer melhora deve ser medida em previsões com resultado definido, não inferida da diversidade dos perfis.

Fontes

  1. Rozado (2024), The political preferences of LLMs, PLOS ONE
  2. Relatório de Síntese do AR6 do IPCC
  3. Karger et al. (2024), ForecastBench: A Dynamic Benchmark of AI Forecasting Capabilities

Pesquisas relacionadas