À medida que a inteligência artificial passa dos laboratórios experimentais para o mundo de alto risco do diagnóstico médico, surge uma falha técnica significativa. Um novo estudo sugere que os modelos atuais de IA são capazes de realizar um fenômeno que os pesquisadores chamam de “miragens” — um processo em que a IA descreve descobertas médicas detalhadas para imagens que na verdade não existem.
Compreendendo a “Miragem” versus a “Alucinação”
Embora a indústria de tecnologia esteja familiarizada com alucinações de IA – onde um chatbot pode inventar uma citação legal falsa ou um fato histórico inexistente – o efeito “miragem” é mais enganoso.
Numa alucinação padrão, a IA fornece um texto incorreto. Numa miragem, a IA age como se estivesse olhando para um estímulo visual. Ele gera uma descrição confiável e altamente detalhada de uma imagem (como um tumor em uma ressonância magnética ou um padrão de tecido específico em uma biópsia), mesmo quando nenhuma imagem foi fornecida ao sistema.
O Estudo: Testando os Limites da Visão
Os pesquisadores, liderados pelo cientista de dados Mohammad Asadi, da Universidade de Stanford, testaram 12 modelos diferentes de IA em 20 disciplinas diferentes, desde imagens de satélite até patologia.
A metodologia foi direta, mas reveladora:
1. Os pesquisadores forneceram aos modelos uma solicitação de texto (por exemplo, “Identifique o tecido neste slide histológico” ).
2. Eles então forneceram a imagem real.
3. No grupo de teste, eles retiveram a imagem inteiramente.
Os resultados foram surpreendentes: Em vez de alertar o usuário de que a imagem estava faltando, a maioria dos modelos entrou no “modo miragem”. Eles descreveram detalhes visuais específicos e complexos e forneceram respostas clínicas com base nesses recursos visuais inexistentes.
Os riscos da “autoridade clínica”
As implicações para os cuidados de saúde são particularmente preocupantes devido a duas tendências específicas identificadas na investigação:
- Viés de diagnóstico: quando forçados a “ver” algo que não existia, os modelos de IA tendiam a adotar diagnósticos que exigiam intervenção clínica imediata. Isso pode levar a tratamentos médicos desnecessários, agressivos e potencialmente prejudiciais para os pacientes.
- A Ilusão de Precisão: Como esses modelos são treinados para serem úteis e confiáveis, eles entregam essas invenções com extrema confiança. Isto é perigoso porque os modelos podem passar em testes de benchmark padrão – que medem se uma IA pode responder a uma pergunta corretamente – sem realmente “ver” a imagem. Eles estão essencialmente “lendo” o contexto em vez de “interpretar” os dados visuais.
“Mesmo que sua IA esteja descrevendo algo muito, muito específico, você diria: ‘Oh, não há como você inventar isso’, sim, eles poderiam inventar isso”, avisa Mohammad Asadi.
Por que isso acontece?
A raiz do problema está na forma como esses modelos são otimizados. A IA foi projetada para encontrar o caminho mais eficiente para uma resposta. Quando um modelo é treinado em grandes conjuntos de dados contendo texto e imagens, ele aprende a confiar em atalhos estatísticos.
Se um prompt for altamente descritivo, o modelo pode ignorar totalmente a etapa de “processamento visual” e ir direto para uma conclusão com base nos padrões que reconhece no texto. Isto cria um problema de “caixa preta”: atualmente não existe uma maneira confiável de saber se um modelo está realmente analisando uma varredura ou simplesmente realizando uma suposição linguística sofisticada.
O caminho a seguir: a necessidade de novas proteções
O estudo destaca uma lacuna crítica na forma como avaliamos a IA. As estruturas de teste atuais não são sofisticadas o suficiente para distinguir entre verdadeira integração intermodal (ver de fato) e adivinhação contextual (apenas ler).
À medida que mais pessoas – incluindo profissionais médicos – confiam na IA para orientação em saúde, torna-se urgente a necessidade de uma nova geração de quadros de avaliação. Até que se possa provar que a IA “vê” em vez de apenas “predizer”, o seu papel na tomada de decisões clínicas deve permanecer estritamente supervisionado.
Conclusão: A descoberta de “miragens” revela que os modelos de IA podem fabricar com segurança descobertas médicas a partir de imagens inexistentes, representando um risco significativo de diagnóstico excessivo e confiança equivocada em ambientes clínicos.
