Uma doença oftalmológica fictícia, inventada em um experimento sobre desinformação, passou a ser tratada como real por sistemas de inteligência artificial e chegou até a ser mencionada em um artigo científico revisado por pares. Batizada de “bixonimania”, a suposta condição foi apresentada por Almira Osmanovic Thunström, da Universidade de Gotemburgo, na Suécia, para testar se grandes modelos de linguagem (LLMs) são capazes de identificar desinformação médica ou se estão vulneráveis a ela. O resultado expôs fragilidades tanto dos chatbots quanto do próprio sistema de publicação científica.
A falsa enfermidade foi apresentada em março de 2024 em postagens publicadas na plataforma Medium e, semanas depois, em dois artigos depositados em uma rede social de pesquisadores, a SciProfiles. Os textos descreviam uma suposta alteração nas pálpebras, com vermelhidão e coceira, causada pela exposição excessiva à luz azul de telas digitais. O autor principal dos estudos era fictício: Lazljiv Izgubljenovic, pesquisador de uma universidade inexistente no estado norte-americano da Califórnia chamada Asteria Horizon University, na também fictícia cidade de Nova City. A foto de Izgubljenovic que ilustrou o artigo foi gerada por IA.
Almira Thunström, que trabalha com pesquisas sobre o uso de inteligência artificial e realidade virtual especialmente na área de psiquiatria, espalhou pistas evidentes de que se tratava de uma fraude. Os artigos mencionavam instituições imaginárias e agradecimentos à Academia da Frota Estelar, onde personagens da ficção científica Star Trek, como o capitão Kirk e o oficial Spock, treinaram. Um dos trechos afirmava explicitamente que “todo este artigo é inventado”. Ainda assim, poucos dias após a publicação, plataformas como ChatGPT, Gemini, Copilot e Perplexity mostraram-se vulneráveis ao embuste e passaram a responder a perguntas sobre a bixonimania como se ela fosse uma condição médica legítima.
O episódio alarmou pesquisadores que estudam desinformação. Alex Ruani, do University College London, na Inglaterra, disse à revista Nature que o caso é exemplar de como conteúdos falsos podem ganhar credibilidade quando apresentados em formato acadêmico. O médico e pesquisador Mahmud Omar, da Harvard Medical School, nos Estados Unidos, observa que modelos de IA tendem a confiar mais em textos com aparência técnica e linguagem científica, ampliando o risco de “alucinações” ‒ respostas fabricadas apresentadas como verdadeiras. O experimento teve consequências além dos chatbots. Um artigo publicado no periódico Cureus citou os preprints falsos e descreveu a bixonimania como uma condição “emergente”. Após questionamentos da revista Nature, o estudo da Cureus foi retratado em março.
Republicar