Anthropic descubre a China copiando Claude

Una mirada a la vigilancia en inteligencia artificial

Anthropic ha revelado en su último informe de inteligencia de amenazas que siete laboratorios de inteligencia artificial en China han estado recolectando información sobre Claude, su modelo de lenguaje IA, mediante un proceso conocido como destilación. Este descubrimiento plantea preguntas sobre la ética y el control en el desarrollo de la inteligencia artificial.

Entre los actores más destacados en esta historia se encuentra Alibaba con su modelo Qwen, que se menciona haber realizado nada menos que 151 millones de intercambios de peticiones para recopilar datos. Otros laboratorios, como Moonshot y DeepSeek, llevaron a cabo acciones aún más sorprendentes: enviaron preguntas de sus propios usuarios a Claude, haciéndolo sin el conocimiento de los mismos.

La operación encubierta

Moonshot, cuyo modelo IA era conocido como Kimi, utilizaba servicios intermedios fuera de China para esquivar las restricciones geográficas impuestas a Claude. De este modo, cuando un usuario realizaba una consulta a Kimi, en realidad parte de esa información era enviada a Claude, del que luego se recibía una respuesta que era presentada a los usuarios como si fuera generada localmente.

Este tipo de intercambio ha suscitado serias inquietudes. Durante el período de mayo a julio, se estima que Moonshot realizó esta operación más de 23 millones de veces, mientras que DeepSeek lo hizo 12,1 millones de veces en un lapso de solo dos semanas. Esto significa que los usuarios creían estar interactuando con Kimi, pero en realidad estaban conversando con Claude. La falta de transparencia en esta práctica genera interrogantes sobre la privacidad y la confianza en la inteligencia artificial.

La destilación de modelos y sus implicaciones

La destilación de modelos se refiere a la técnica en la que las respuestas de un modelo avanzado se utilizan para enseñar a otro. Este método no es exclusivo de prácticas clandestinas, ya que las empresas de IA lo implementan para mejorar sus propios sistemas. Sin embargo, la controversia surge cuando se aplica esta técnica para aprender de modelos cerrados, como es el caso de Claude, sin informar a los usuarios involucrados. Anthropic ha afirmado que Alibaba buscaba incluso obtener el razonamiento detrás de Claude para integrarlo en el entrenamiento de su modelo Qwen.

A pesar de este hecho, hay expertos que argumentan que la destilación por sí sola no puede explicar el rápido avance de modelos como Qwen, Kimi o DeepSeek, lo que añade otra capa a este complejo asunto.

Cómo Anthropic monitoriza el uso de Claude

Para poder revelar estos hallazgos, es crucial entender que Anthropic supervisa detalladamente cómo se utiliza Claude. La empresa ha desarrollado rigurosos sistemas de detección mediante su equipo de Safeguards, el cual permite asegurar que se cumplen sus políticas. En la primera mitad de 2026, se identificaron y bloquearon más de 11,4 millones de cuentas debido a comportamientos sospechosos.

Anthropic emplea metadatos y busca patrones anómalos para identificar campañas de destilación, aunque la compañía aclara que no está espiando cada acción de sus usuarios. Sin embargo, esta capacidad de supervisión pone de manifiesto una notable visibilidad sobre la actividad dentro de la plataforma.

Controversias y críticas

En marzo de este año, Anthropic implementó un mecanismo de detección que buscaba indicios de actividad de destilación, apuntando a zonas horarias chinas, proxies y dominios vinculados a empresas de inteligencia artificial en China. Esta medida generó críticas cuando fue descubierta por un investigador, lo que llevó a la compañía a retirar estos sistemas, impulsada por preocupaciones sobre su papel como un posible "Gran Hermano" en el ámbito de la IA.

La dualidad del control en IA

Anthropic no solo regula qué se puede o no hacer con sus modelos (por ejemplo, está prohibido diseñar armas biológicas), sino que también configura los sistemas para detectar intentos de explotación de sus tecnologías. Mientras que esto puede ser razonable para una compañía que desarrolla modelos de inteligencia artificial tan potentes como Claude, también plantea un dilema ético.

Cada vez más, Claude está evolucionando de meramente ser un chatbot a convertirse en un mecanismo a través del cual Anthropic determina la legitimidad de las conversaciones que se llevan a cabo, lo que podría llevar a implicaciones de control sobre la información y el discurso.

La inteligencia artificial está cambiando rápidamente, y mientras algunas empresas buscan innovar y mejorar sus modelos, otras parecen estar dispuestas a cruzar líneas en su búsqueda de datos. Los recientes descubrimientos sobre el comportamiento de los laboratorios chinos en relación a Claude subrayan la importancia de la transparencia y la ética en el desarrollo y la regulación de la tecnología de inteligencia artificial. Es crucial que se establezcan pautas para proteger tanto a los desarrolladores como a los usuarios de posibles abusos.