Inteligencia artificial bajo escrutinio por asesorar salud
Caso en Florida destaca riesgos de confiar en chatbots para temas médicos
Un caso reciente ha puesto en el centro de atención los riesgos asociados con el uso de chatbots de inteligencia artificial para obtener consejos médicos. Un pastor de Florida, Scott Winters, ha demandado a OpenAI, la empresa detrás de ChatGPT, por negligencia, tras recibir recomendaciones erróneas que lo disuadieron de…
Un caso reciente ha puesto en el centro de atención los riesgos asociados con el uso de chatbots de inteligencia artificial para obtener consejos médicos. Un pastor de Florida, Scott Winters, ha demandado a OpenAI, la empresa detrás de ChatGPT, por negligencia, tras recibir recomendaciones erróneas que lo disuadieron de buscar atención médica adecuada para síntomas que resultaron ser una embolia pulmonar. Winters consultó a ChatGPT-4 sobre problemas de salud que incluían mareos y presión arterial inestable. Según la demanda presentada en el Tribunal Superior del condado de San Francisco, el chatbot minimizó sus síntomas, sugiriendo que permaneciera en casa a menos que experimentara un número significativo de episodios similares. Esta orientación incorrecta llevó a Winters a sufrir una embolia pulmonar masiva, lo que afectó gravemente su salud y su capacidad para trabajar. La abogada Tiffany Brown, representante legal de Winters, subraya que esta situación es un ejemplo de los peligros potenciales de utilizar herramientas de inteligencia artificial sin las salvaguardas necesarias. La demanda alega que OpenAI no ha implementado medidas de seguridad adecuadas para evitar que los usuarios confíen en consejos médicos inexactos. Este caso resalta la importancia de establecer protocolos claros y efectivos en el uso de tecnologías emergentes, especialmente en contextos donde el bienestar de los usuarios está en juego. En una región como Latinoamérica, donde el acceso a información confiable es vital, garantizar la seguridad y responsabilidad de las herramientas tecnológicas se vuelve aún más crítico para la protección de la población.
