Pesquisas feitas no Google com o uso de Resumos de Inteligência Artificial (IA) podem trazer informações que comprometem a saúde dos usuários. Uma investigação revelou que essas respostas, em alguns casos, podem ser imprecisas e até perigosas, especialmente quando as pessoas buscam informações sobre doenças e exames médicos.
Um exemplo alarmante citado na pesquisa mostra que o sistema de busca aconselhou pacientes com câncer de pâncreas a evitarem alimentos ricos em gordura. No entanto, especialistas em saúde afirmaram que essa recomendação é errada e poderia colocar a vida do paciente em risco, pois é comum que esses indivíduos precisem de um consumo específico de nutrientes.
O problema se agrava porque a inteligência artificial não considera o histórico ou o contexto de cada usuário ao fornecer respostas. Em um teste realizado, o sistema deu informações sobre funções hepáticas que poderiam levar uma pessoa a não buscar a ajuda médica necessária, mesmo diante de um problema de saúde serio.
Em resposta às preocupações, o Google afirmou que considera esses Resumos de IA como uma ferramenta útil e confiável. A empresa assegura que está sempre melhorando a qualidade das informações oferecidas e que a taxa de precisão dessa funcionalidade é semelhante à de sua busca convencional.
Além disso, o Google declarou que tomará medidas corretivas se for identificado que as respostas geradas pela sua inteligência artificial estejam incorretas, de acordo com suas políticas internas. Essa situação ressalta a importância de buscar fontes confiáveis e consultar profissionais de saúde antes de tomar decisões relacionadas à saúde com base em informações obtidas pela internet.