Seria o problema de citações erradas um resultado da inteligência artificial?

Para um acadêmico, citação é algo importante nas duas direções: quem cita não somente reconhece o trabalho dos outros acadêmicos como mostra que sabe do que fala. De outro lado, quem recebe a citação tem seu trabalho validado um nível acima, depois de ser validado por revisores, agora é validado por colegas acadêmicos. 

Recentemente, estava preparando a versão final do meu artigo aceito. Notei que havia referências inexistentes, e mesmo com links errados. Sim, eu usei a IA. Não sei como isso passou, estando ciente do problema, sempre tentei checar as referências. Então me perguntei: teria a IA criado isso?

Tem sempre essa tendência de demonizar a IA, e afirmar que a AI introduziu problemas na pesquisa, que vai nos tornar mais burros. Eu nunca gostei, e gosto, dessa forma de pesar. Isso me parece tendência de confirmação em ação: um medo coletivo da IA virando realidade. Contudo, todos os problemas que vejo sempre existiram mesmo antes da IA. No caso das referências, mesmo antes da IA lembro desse problema. Não que eu propositalmente citei de forma errada, mas erros de citação sempre passaram. 

Nos últimos anos, com a popularização das ferramentas de inteligência artificial generativa, especialmente os modelos de linguagem (LLMs), cresceu a preocupação com a chamada alucinação de referências — quando o sistema inventa artigos, autores ou revistas que nunca existiram. O fenômeno é real, e já foi documentado em diferentes áreas. Mas será que esse problema nasceu com a inteligência artificial?

A resposta é mais complexa do que parece: não, o problema é anterior e estrutural da própria academia. O que a IA fez foi apenas acelerar e tornar mais visível algo que já acontecia há décadas.

Antes da IA: erros e distorções já eram comuns

Diversos estudos anteriores à era dos LLMs analisaram a acurácia das referências em artigos científicos. Os resultados chamam a atenção:

• Pesquisas desde os anos 1980 mostram que entre 20% e 25% das referências em artigos biomédicos tinham erros significativos, como páginas incorretas, nomes de autores incompletos ou anos errados.

• Em torno de 10% das referências eram tão equivocadas que se tornavam impossíveis de localizar.

• Muitos autores citavam obras de segunda mão sem verificar o original, perpetuando erros que iam se acumulando na literatura.

• Havia também os chamados “fantasmas” — referências que simplesmente não existiam, fruto de descuido ou má-fé.

Além disso, práticas como padding (inflar listas de referências sem necessidade), citações cruzadas entre grupos de pesquisa (citation cartels) e a propagação de citações de autoridade sem verificação crítica sempre estiveram presentes. Em um ambiente de “publique ou pereça”, a pressão para multiplicar publicações muitas vezes atropelava o cuidado com a verificação bibliográfica.

O que muda com a IA

O que a IA trouxe foi a capacidade de gerar erros em larga escala e com uma aparência ainda mais convincente. Um modelo de linguagem pode criar um artigo fictício, assinado por autores reais e publicado em uma revista existente, mas em um volume ou edição que jamais existiu. Para quem confia cegamente, o risco é enorme.

Dessa forma, a IA não criou o problema — ela o multiplicou e o escancarou. A diferença é de escala e velocidade.

O verdadeiro desafio

Se antes já tínhamos que lidar com citações incorretas por descuido humano, agora precisamos dobrar a vigilância.

Isso envolve:

• Checar cada DOI ou identificador persistente.

• Verificar se o artigo realmente existe na base de dados.

• Evitar citar obras que não foram efetivamente lidas.

No final ganhamos e perdemos ao mesmo tempo. Para mim, poder consultar citações em tempo real é fenomenal. A maior parte da citações estão correta, até mesmo alguns truques como:

1. Acesse a referência pelo link

2. Faça perguntas à IA sobre a referência;

O problema das citações erradas não nasceu com a inteligência artificial. Ele é um reflexo de fragilidades estruturais da academia, agora amplificado pelas novas ferramentas. A pergunta que fica é: seremos capazes de transformar essa crise em uma oportunidade para finalmente adotar uma cultura de rigor na verificação das fontes?

---

Conheça nossa série de livros