Atención con el «caballo de Troya» en la era de la IA

En la era de la inteligencia artificial (IA), la seguridad de sus herramientas está directamente ligada a la soberanía digital de un país. El incidente del Código Claude se ha revelado como el «caballo de Troya» en la era de la IA. Una vez más, ha hecho sonar la alarma: No puede haber seguridad genuina sin capacidades independientes y controlables en todas las cadenas de suministro de equipos y programas.

La Base de Datos Nacional de Vulnerabilidades de China, un repositorio de ciberseguridad operado por el Ministerio de Industria y Tecnología de la Información, publicó un comunicado en el que advierte sobre los riesgos de seguridad tipo «puerta trasera» en el Código Claude, un agente de IA de la firma estadounidense Anthropic, que representa un daño potencial de consideración.

Así, varias versiones del mismo lanzadas entre abril y junio transmitían información confidencial de los usuarios a servidores remotos sin su consentimiento. El ministerio chino aconsejó a las organizaciones y usuarios pertinentes realizar verificaciones inmediatas, desinstalar el agente o actualizarlo a una versión segura. Esto no solo sirve como alerta de seguridad para las entidades del mercado nacional, sino también para la gobernanza mundial de la IA.

Cada vez hay más evidencia que sugiere que esta “puerta trasera” fue diseñada e instalada a propósito. Un informe publicado el lunes por The Washington Post afirmaba explícitamente: «En marzo, la empresa de IA Anthropic implementó discretamente un programa para espiar a los clientes en China de su popular chatbot Claude». No fue sino hasta que un desarrollador, tras analizar minuciosamente el código, descubrió que este contenía en secreto un «sistema centinela» capaz de transmitir datos confidenciales —como marcadores de ubicación e identidad— a servidores remotos sin el conocimiento del usuario. En pocas palabras, es como invitar a un técnico a tu casa, solo para que, mientras no estás mirando, revise tus documentos y pertenencias, y luego pase la información a cómplices de afuera —todo sin que tú lo sepas.

Entonces, ¿quién es exactamente el verdadero «caballo de Troya» que acecha en el mundo digital? Algunos políticos occidentales sostienen con frecuencia, sin pruebas, que los modelos de IA chinos podrían causar «filtraciones de datos» o «amenazas a la cadena de suministro de programas informáticos», e incluso los etiquetan falsamente como «caballos de Troya» que ponen en jaque la seguridad nacional. Con dolo catalogan a China como «riesgo de seguridad de la IA», pero nunca han presentado ninguna evidencia sólida que respalde sus alegatos. Después de que el incidente saliera a la luz, un miembro del equipo de Claude lo defendió en las redes sociales como un experimento destinado a prevenir el uso indebido de cuentas y detectar una posible destilación de modelos de IA. Esta explicación es poco convincente. La «destilación» es una práctica común en el rubro. Si realmente se trataba solo de prevenir el uso indebido, ¿por qué no informar abiertamente a los usuarios? ¿Por qué ocultar la funcionalidad con código ofuscado y esteganografía? Esto es desleal y posee un doble rasero.

En los últimos dos años, la IA ha evolucionado más allá de los chatbots relativamente simples y cerrados basados en grandes modelos de lenguaje para convertirse en sofisticadas aplicaciones. Los agentes actuales han adquirido «manos y pies»: pueden diseñar planes, implementar herramientas y ejecutar tareas por su cuenta. Eso también significa que sus errores ya no se limitan a generar texto inexacto; podrían borrar un proyecto de programación completo o transferir fondos de una cuenta bancaria.

Se estima que, para finales de 2026, el 40 % de las aplicaciones empresariales en todo el mundo incorporarán agentes de IA capaces de ejecutar tareas y estos se están convirtiendo en una parte crítica de la cadena de suministro. Si se implantan puertas traseras ocultas en el programa, los peligros podrían ser tan graves como las vulnerabilidades del equipo en los chips de computadora. La última advertencia del ministerio chino refleja su fuerte énfasis en la seguridad de la cadena de suministro: en la era de la IA, la seguridad de las herramientas de desarrollo está directamente vinculada con la soberanía digital de un país.

Desde el diseño institucional hasta las acciones corporativas, China está construyendo un marco de seguridad integral que abarca toda la cadena industrial de la IA y está acelerando esfuerzos para lograr una mayor autosuficiencia y control en todas las capas del ecosistema, incluyendo las herramientas de desarrollo, los modelos base y la infraestructura computacional. Incluso antes del incidente de Claude, la cartera citada y otras autoridades habían advertido repetidamente sobre los riesgos de seguridad asociados con los agentes de IA.

En marzo, por ejemplo, los reguladores emitieron una alerta sobre el agente OpenClaw. Luego, en mayo, tres agencias gubernamentales publicaron directrices para promover el uso estandarizado y el desarrollo innovador de los agentes de IA, exigiendo mayores medidas de protección contra amenazas a la seguridad a lo largo de su ciclo de vida.

La labor de China beneficia no solo a sí misma, sino también a la comunidad internacional. Los modelos base de código abierto chinos siguen aumentando su capacidad. A diferencia del año pasado, cuando el ascenso meteórico de DeepSeek generó debates sobre el potencial del código abierto, los modelos base chinos han ganado este año un mayor apoyo gracias a sus capacidades comprobadas.

Más recientemente, observadores extranjeros han descrito el lanzamiento de GLM-5.2 de la firma china Zhipu AI como un segundo «momento DeepSeek», aludiendo a que su desempeño es comparable al de Opus 4.8 de Anthropic, pero a un costo de solo una quinta parte. Para distintos países, incluidas las economías desarrolladas y, especialmente, los del Sur Global, la IA de código abierto de China deviene una alternativa atractiva y, en algunos casos, indispensable, con lo que todas las partes pueden compartir de manera más equitativa los beneficios de la revolución de la IA.

La IA es una poderosa espada de doble filo. Representa la frontera de la competencia tecnológica y la primera línea de la seguridad nacional. En su ámbito estratégico, que concierne al futuro, un país importante nunca debe hacerse ilusiones ni poner su propio desarrollo en manos de otros.

El incidente del Código Claude ha vuelto a hacer sonar la alarma: no puede haber una seguridad genuina sin capacidades independientes y controlables en todas las cadenas de suministro de equipos y programas.