Google ha comenzado a retirar sus AI Overviews —resúmenes generados por inteligencia artificial que aparecen en la parte superior del buscador— para determinadas búsquedas médicas, después de que se detectaran errores y consejos potencialmente peligrosos relacionados con la salud.
La decisión llega tras varias investigaciones periodísticas que pusieron de relieve que estos resúmenes podían ofrecer información incorrecta, incompleta o mal contextualizada, incluso en consultas sensibles como resultados de análisis clínicos, síntomas graves o recomendaciones dietéticas para pacientes con enfermedades complejas.
Los AI Overviews forman parte del esfuerzo de Google por integrar modelos de lenguaje avanzados en su buscador, ofreciendo respuestas rápidas y sintetizadas sin necesidad de que el usuario acceda a múltiples enlaces. Sin embargo, en el ámbito de la salud, la precisión y el contexto son críticos, y cualquier error puede tener consecuencias reales para las personas.
Según los reportes publicados, algunos resúmenes llegaron a interpretar mal rangos normales de pruebas médicas, o a sugerir pautas alimentarias que no se ajustaban a las recomendaciones clínicas habituales. En ciertos casos, los expertos consultados señalaron que seguir esos consejos podría empeorar la condición del paciente o retrasar la búsqueda de atención médica adecuada.
Ante esta situación, Google ha confirmado que ha desactivado los AI Overviews para determinadas consultas médicas específicas, especialmente aquellas en las que se detectó un mayor riesgo de desinformación. La compañía sostiene que estos casos representan una pequeña fracción del total de búsquedas, pero reconoce que la salud es un área especialmente delicada.
Un portavoz de Google explicó que la empresa está refinando sus sistemas y reforzando las salvaguardas, priorizando fuentes médicas autorizadas y reduciendo la aparición de resúmenes automáticos en consultas donde la IA no pueda ofrecer un alto grado de fiabilidad. También recordó que los AI Overviews no sustituyen el consejo médico profesional.
Aun así, el debate sigue abierto. Algunos especialistas en salud digital y ética de la inteligencia artificial advierten que el problema no se limita a unos pocos errores puntuales, sino que refleja los límites actuales de los modelos generativos cuando se enfrentan a información médica compleja, cambiante y altamente contextual.
Otro punto crítico es que, aunque Google ha eliminado estos resúmenes para ciertas búsquedas concretas, variaciones mínimas en la forma de preguntar pueden seguir activando respuestas generadas por IA con resultados similares. Esto plantea dudas sobre la efectividad real de las medidas adoptadas y sobre cómo controlar de forma consistente este tipo de contenido.
El caso vuelve a poner sobre la mesa una cuestión clave para el futuro de los buscadores: hasta qué punto la inteligencia artificial debe intervenir en áreas de alto riesgo, como la salud, el derecho o las finanzas. Mientras la tecnología avanza rápidamente, los mecanismos de control, validación y responsabilidad siguen siendo un desafío.
Por ahora, la retirada parcial de los AI Overviews médicos muestra que incluso las grandes tecnológicas reconocen que no todo puede ni debe automatizarse, especialmente cuando la información errónea puede afectar directamente a la salud de millones de usuarios.
