El pasado mes de enero Google se vio obligada a retirar algunos resúmenes de inteligencia artificial de sus búsquedas en relación a ciertos temas relacionados con la medicina, después de que Gemini otorgase algunos consejos bastante problemáticos en esta materia.
No son pocas las voces que están poniendo de manifiesto lo problemático que es aplicar una inteligencia artificial para dar consejos de salud. Esto se ve reflejado en una cuenta de TikTok de un supuesto médico que lanza consejos cuestionables en el menor de los casos.
El problema es que el médico no es real. Una investigación de Indicator ha dado a conocer la cuenta ‘healthylifesage’, ubicada en TikTok y en Instagram que acumula casi un millón y medio de seguidores, y que se hace pasar por un médico llamado John Valentine.
Este médico no existe (y no deberías seguirlo)
Su cuenta, en ambas plataformas, corresponde al nombre de John Valentine o ‘Healthy Life Tips’. Sus vídeos, claramente generados con IA en algunos casos, muestra a un experto en medicina dar consejos sobre distintos temas relacionados con la salud.
El formato de los vídeos es variado. En muchos casos, el médico simplemente sale mirando a cámara y dando su consejo. En otros, llega a aparecer en charlas con escenarios repletos de personas.
Nada de esto es real. La investigación de Indicator revela que ni John Valentine es real ni los consejos que da son buenos. John Valentine es un deepfake, es un avatar generado con inteligencia artificial.
Esto no sería tan problemático si las advertencias y tutoriales que arroja fueran verdaderas o estuvieran basadas en una base real, pero no es así. Buena parte de sus discursos son como mínimo cuestionables y como máximo, peligrosos.
En uno de estos vídeos, publicado el pasado 14 de febrero, Valentine recomendaba remojar los pies en agua oxigenada —peróxido de hidrógeno— durante 10 minutos, tres veces por semana, para lograr un sistema inmunitario más fuerte.
De base esto es claramente mentira. Pero además, esta práctica puede dañar la piel y provocar heridas graves en los pies del usuario. Esta es una práctica sin fundamento científico y que además es peligrosa.
El medio Punto Informático recoge las declaraciones de Margot Burnell, presidenta de la Asociación Médica Canadiense, que ha puesto el grito en el cielo respecto a esta cuenta, calificando sus consejos de perturbadores y engañosos.
John Valentine centra su éxito en algunos de los miedos y mitos más extendidos del ideario colectivo, relacionados con las bacterias o las enfermedades del día a día. Se basa en casos típicos y conocidos para generar sus consejos y así ganar más viralidad.
Los vídeos de la cuenta de Valentine son tremendamente hiperrealistas, casi indistinguibles de la vida real. Estos vídeos son cada vez más realistas y convincentes, lo que hace todavía más difícil ‘cazarlos’.
Los usuarios, cabe destacar, tampoco se esmeran en verificar los datos que consumen en Internet, lo que favorece la proliferación de estas cuentas que se generan por cientos gracias a estas herramientas de IA, cada vez más popularizadas.
Tanto Meta como TikTok han prometido acabar con estas y otras tantas cuentas relacionadas con otros ámbitos peligrosos de la salud. Desgraciadamente, el ritmo al que se generan estas cuentas es mucho mayor a la eficacia de los sistemas de detección.
