O Google está sendo acusado de colocar a segurança dos usuários em risco ao minimizar avisos de que seus resumos de saúde gerados por Inteligência Artificial (IA) podem conter erros. Embora a gigante de tecnologia afirme que suas ferramentas incentivam a busca por ajuda profissional, a realidade na interface do buscador parece ser outra.

De acordo com uma investigação exclusiva do The Guardian, a empresa não inclui nenhum tipo de isenção de responsabilidade (disclaimer) quando os usuários visualizam os conselhos médicos da “AI Overview” (Visão Geral de IA) pela primeira vez. O alerta só surge se o internauta decidir expandir a resposta clicando em “Mostrar mais” e, ainda assim, o aviso é exibido no final do texto, com uma fonte menor e mais clara que o restante do conteúdo.

O perigo da “confiança automática”

Especialistas em IA e defensores dos direitos dos pacientes expressaram profunda preocupação com os achados do The Guardian. Para Pat Pataranutaporn, professor e pesquisador do MIT, a ausência de avisos proeminentes cria um cenário perigoso por dois motivos principais:

Alucinações da IA: Mesmo os modelos mais avançados podem inventar informações ou priorizar a satisfação do usuário em detrimento da precisão técnica.

Falsa sensação de segurança: A posição de destaque no topo da página desencoraja o usuário a buscar outras fontes ou a ler o texto até o fim, onde o aviso de segurança está “escondido”.

“Os avisos servem como um ponto de intervenção crucial”, afirma Pataranutaporn. “Eles quebram a confiança automática e forçam o usuário a avaliar criticamente a informação recebida.”

O que diz o Google

Essa não é a primeira vez que o Google enfrenta críticas sobre o tema. Em janeiro, outra investigação já havia mostrado que informações falsas e enganosas estavam sendo entregues aos usuários. Em resposta, a empresa chegou a remover a IA de algumas buscas médicas, mas a ferramenta permanece ativa para diversas outras consultas de saúde.

Falta de alerta pode passar falta sensação de segurança para o usuário (Imagem: Marco Lazzarini/Shutterstock)

Em sua defesa, um porta-voz do Google negou que a ferramenta falhe em orientar os usuários. A empresa afirma que as visões gerais de IA “frequentemente mencionam a necessidade de procurar atendimento médico diretamente dentro do resumo, quando apropriado”, e que a sugestão de buscar um profissional é um pilar do sistema.

No entanto, para entidades como a Anthony Nolan, instituição de caridade voltada para pacientes com câncer no sangue, as medidas atuais são insuficientes.

Esse aviso precisa estar no topo. Gostaria que fosse a primeira coisa que você visse, e com o mesmo tamanho de fonte do resto do texto.

Tom Bishop, chefe de informação aos pacientes da Anthony Nolan

A crítica central permanece: ao oferecer respostas que parecem completas e definitivas logo no topo da tela, o Google pode estar impedindo que pessoas com condições de saúde reais busquem o diagnóstico humano necessário para salvar vidas.

O post Google omite alertas de segurança em pesquisas de saúde gerados por IA apareceu primeiro em Olhar Digital.