Notícias de saúde

Risco oculto no uso de IA na saúde: manipulação dos dados de treinamento

02 de junho de 2026 (Bibliomed). A inteligência artificial vem ganhando espaço na saúde, ajudando em tarefas como análise de exames, organização de informações e apoio à decisão clínica. Mas um novo estudo chama atenção para um risco pouco visível: a manipulação dos dados usados para treinar esses sistemas. A análise foi divulgada pelo Karolinska Institutet News e publicada no Journal of Medical Internet Research.

O problema é conhecido como “data poisoning”. Ele acontece quando dados alterados entram na base de treinamento da inteligência artificial. Com isso, o sistema pode continuar parecendo funcionar normalmente, mas passar a tomar decisões menos confiáveis com o tempo. Segundo os autores, em alguns cenários descritos na literatura, poucas centenas de registros manipulados já poderiam comprometer o desempenho de um modelo.

O estudo não afirma que hospitais estejam sofrendo esse tipo de ataque agora. A proposta foi reunir evidências já publicadas e mostrar, com exemplos realistas e hipotéticos, como o problema poderia ocorrer e como preveni-lo.

Os pesquisadores defendem várias camadas de proteção, como monitoramento contínuo, testes de segurança, rastreamento da origem dos dados e regras de governança mais rígidas. A mensagem central é clara: na saúde, segurança digital também é segurança do paciente.

Fonte: Journal of Medical Internet Research. DOI: 10.2196/87969.