Um novo estudo publicado no Journal of Medical Internet Research revelou que modelos de linguagem de inteligência artificial (IA), como ChatGPT (Chat Generative Pre-trained Transformer), podem gerar artigos científicos fraudulentos que parecem ser autênticos. Essa descoberta levanta preocupações críticas sobre a integridade da pesquisa científica e a confiabilidade dos artigos publicados.
Pesquisadores da Universidade Charles, na República Tcheca, tiveram como objetivo investigar as capacidades dos atuais modelos de linguagem de IA na criação de artigos médicos fraudulentos de alta qualidade. A equipe usou o popular chatbot AI ChatGPT, que roda no modelo de linguagem GPT-3 desenvolvido pela OpenAI, para gerar um artigo científico completamente fabricado no campo da neurocirurgia. Perguntas e prompts foram refinados à medida que o ChatGPT gerava respostas, permitindo que a qualidade da saída fosse melhorada iterativamente.
Os resultados deste estudo de prova de conceito foram impressionantes – o modelo de linguagem de IA produziu com sucesso um artigo fraudulento que se assemelhava a um artigo científico genuíno em termos de uso de palavras, estrutura de frases e composição geral. O artigo incluía seções padrão, como resumo, introdução, métodos, resultados e discussão, bem como tabelas e outros dados. Surpreendentemente, todo o processo de criação do artigo levou apenas uma hora sem nenhum treinamento especial do usuário humano.
Embora o artigo gerado pela IA parecesse sofisticado e sem falhas, após um exame mais detalhado, os leitores especialistas conseguiram identificar imprecisões e erros semânticos, principalmente nas referências – algumas referências estavam incorretas, enquanto outras eram inexistentes. Isso ressalta a necessidade de maior vigilância e métodos de detecção aprimorados para combater o potencial uso indevido da IA na pesquisa científica.
As descobertas deste estudo enfatizam a importância de desenvolver diretrizes éticas e melhores práticas para o uso de modelos de linguagem de IA em redação e pesquisa científica genuína. Modelos como o ChatGPT têm o potencial de aumentar a eficiência e precisão da criação de documentos, análise de resultados e edição de linguagem. Ao usar essas ferramentas com cuidado e responsabilidade, os pesquisadores podem aproveitar seu poder, minimizando o risco de uso indevido ou abuso.
Fonte: Journal of Medical Internet Research. DOI: 10.2196/49323.
Biblioteca Virtual de Saúde
Qualidade de vida e Saúde