Riesgos de seguridad en herramientas de inteligencia artificial

Advertencias sobre vulnerabilidades en el uso de IA

Autoridades chinas han lanzado una advertencia sobre los riesgos de seguridad que plantea el uso de ciertas herramientas de inteligencia artificial, en un contexto de competencia tecnológica con Estados Unidos. Recientemente, se ha señalado la herramienta Claude Code, desarrollada por la empresa estadounidense Anthropic, por sus potenciales vulnerabilidades de seguridad.…

Autoridades chinas han lanzado una advertencia sobre los riesgos de seguridad que plantea el uso de ciertas herramientas de inteligencia artificial, en un contexto de competencia tecnológica con Estados Unidos. Recientemente, se ha señalado la herramienta Claude Code, desarrollada por la empresa estadounidense Anthropic, por sus potenciales vulnerabilidades de seguridad. Este pronunciamiento se produce en medio de acusaciones de Anthropic hacia Alibaba, una de las gigantes tecnológicas chinas, por intentar acceder a su tecnología de IA, la cual no está oficialmente disponible allí.

A pesar de las restricciones, desarrolladores en China han logrado utilizar herramientas de IA de origen estadounidense. En marzo, un desarrollador de Xiaomi reveló en un foro estatal que usuarios estaban empleando Claude Code, lo cual llevó a Alibaba a prohibir su uso entre sus empleados a partir del 10 de julio. El Ministerio de Industria y Tecnología de la Información de China ha detectado una vulnerabilidad de 'puerta trasera' en Claude Code, lo que podría comprometer la seguridad de la información sensible, como la ubicación e identidad del usuario.

Se ha recomendado a los usuarios desinstalar o actualizar las versiones afectadas de Claude Code, específicamente aquellas lanzadas entre el 2 de abril y el 29 de junio. La situación pone de relieve la necesidad de una regulación más estricta en el ámbito de la inteligencia artificial y resalta la importancia de evaluar cuidadosamente las herramientas tecnológicas que se emplean en las operaciones, considerando tanto su potencial como los riesgos asociados, especialmente para tomadores de decisiones en México y América Latina.