As respostas geradas por Inteligência Artificial (IA) nos buscadores, como o Google, podem apresentar riscos à saúde, especialmente quando se trata de informações sobre doenças e exames. Uma investigação recente mostra que, ao buscar informações médicas, os usuários podem receber orientações equivocadas, o que pode ser prejudicial.
Um dos exemplos citados na pesquisa envolve recomendações feitas a pacientes com câncer de pâncreas. O buscador sugeriu que esses pacientes evitassem alimentos ricos em gordura. No entanto, médicos afirmaram que essa orientação é incorreta e pode colocar a vida dos pacientes em risco, pois a nutrição adequada é crucial para o tratamento.
A análise também destacou que o Google, ao oferecer respostas, não leva em consideração o contexto específico do usuário. Isso significa que as respostas podem ser generalizadas e não se aplicarem a todos. Por exemplo, em testes sobre funções hepáticas, algumas respostas poderiam levar o usuário a não buscar atendimento médico, mesmo se necessário, agravando sua condição.
Em resposta às preocupações, o Google afirmou que considera os Resumos de IA como “úteis” e “confiáveis”. A empresa ressaltou que está constantemente aprimorando a qualidade dessas respostas e que a precisão delas é comparável à sua ferramenta de busca convencional.
Além disso, o Google declarou que, caso as respostas geradas pela IA estejam erradas, a empresa tomará as medidas apropriadas de acordo com suas políticas internas. É importante que os usuários sejam cautelosos ao buscar informações sobre saúde e sempre consultem profissionais qualificados.