Inteligencia artificial y su impacto en la salud
Demandas y desafíos regulatorios ante consejos riesgosos de IA
Un reciente caso en Florida ha puesto en el centro del debate la responsabilidad de las plataformas de inteligencia artificial en el ámbito de la salud. Un pastor identificado como Winters ha demandado a una conocida empresa de desarrollo de IA, alegando que los consejos de salud proporcionados por su…
Un reciente caso en Florida ha puesto en el centro del debate la responsabilidad de las plataformas de inteligencia artificial en el ámbito de la salud. Un pastor identificado como Winters ha demandado a una conocida empresa de desarrollo de IA, alegando que los consejos de salud proporcionados por su chatbot casi le cuestan la vida. Según la demanda, Winters consultó al chatbot durante varios meses por síntomas preocupantes como mareos y fluctuaciones en la presión arterial. Sin embargo, el asistente digital minimizó sus preocupaciones, sugiriendo que solo buscara atención médica después de experimentar numerosos episodios adicionales.
Estas recomendaciones, consideradas irresponsables, habrían contribuido al desarrollo de coágulos sanguíneos, según un médico que posteriormente atendió a Winters, quien pasó largos períodos en inactividad bajo el consejo del chatbot. La situación ha sido respaldada por organizaciones defensoras de los derechos de los usuarios de tecnología, subrayando la necesidad de una mayor supervisión en el uso de estas herramientas en contextos críticos como el cuidado de la salud.
Para los responsables de políticas en México y América Latina, este incidente destaca la urgencia de establecer regulaciones claras sobre el uso de inteligencia artificial en áreas sensibles. La implementación de marcos legales que aseguren el uso responsable y seguro de estas tecnologías podría prevenir situaciones similares y proteger la salud de los usuarios. La creciente dependencia de herramientas digitales en la vida cotidiana exige una evaluación cuidadosa de sus límites y responsabilidades.
