Anthropic advierte que pequeños modelos de IA podrían autorreplicarse en dispositivos IoT

La empresa de inteligencia artificial Anthropic ha lanzado una advertencia que sacude los cimientos de la seguridad digital: los modelos de IA pequeños y de pesos abiertos podrían estar a apenas unos meses de ser capaces de autorreplicarse en dispositivos cotidianos —hornos inteligentes, televisores y cajas de TV Android de marcas desconocidas—, dando forma a una nueva generación de gusanos informáticos mucho más difíciles de erradicar. La compañía sitúa esa capacidad potencial a finales de este mismo año.

• La amenaza: los modelos pequeños podrían convertirse en gusanos autónomos capaces de infectar dispositivos IoT sin intervención humana, según el equipo de seguridad de Anthropic.
• Las pruebas: el modelo Gemma 4 de Google, de 26.000 millones de parámetros, se repartió lentamente entre 15 cajas de TV Android de unos 55 dólares y 4 GB de memoria cada una.
• El matiz: la propia Anthropic reconoce que aún no existe un replicador autónomo completo, y varios expertos independientes califican los experimentos de escenario artificial.

Un gusano sin interruptor central

El escenario que describe la compañía tiene un rasgo que lo vuelve especialmente inquietante: al ejecutarse de forma distribuida entre cientos o miles de aparatos, sin un servidor central, no existe una llave maestra capaz de apagar el brote. A diferencia del malware tradicional, que suele apoyarse en infraestructura controlada por sus autores, este tipo de replicador se dispersa por hardware ajeno y mal protegido.

Anthropic sostiene que un «gusano de IA» podría llevar consigo sus propios pesos mientras se reproduce —o volver a descargarlos desde un repositorio público— y ejecutar inferencia directamente sobre el hardware comprometido. «Efectivamente, los pesos se convertirían en parte de la carga maliciosa», señaló la firma, que distingue varias vías de propagación: replicadores basados en pesos, replicadores frontera o de pesos abiertos, y replicadores basados en API, estos últimos capaces de engañar a un proveedor de servicios de IA haciéndole creer que atiende peticiones normales de un cliente legítimo.

«Un replicador como este sería difícil de detener, ya que no hay un punto central que apagar, aunque puede ser lento, con un tiempo de duplicación de días. A diferencia del malware que no usa IA, también podría descifrar dispositivos desconocidos por su cuenta».

De Gemma 4 repartido a GLM-5.2

Para comprobar si un modelo pequeño puede siquiera ejecutarse en hardware barato, los investigadores tomaron una versión de Gemma 4, uno de los modelos libres de Google, y la dividieron entre 15 cajas de TV Android. Ningún aparato tenía memoria suficiente para alojarlo por sí solo, pero cada uno ejecutaba una porción y, en conjunto, el modelo funcionaba, aunque con lentitud.

En otro experimento, Anthropic construyó una red simulada de ocho equipos en la nube configurados para comportarse como dispositivos Android y sembró un gusano en uno de ellos. De los 11 modelos de pesos abiertos evaluados —procedentes de Alibaba, DeepSeek, Google, Meta, MoonShot AI, OpenAI y Zhipu AI—, solo GLM-5.2, el modelo de la china Z.ai, completó todos los pasos y alcanzó las ocho máquinas en cuatro de cinco intentos.

Los investigadores observaron además que, cuando los modelos pequeños dejaban notas para copias posteriores de sí mismos, la tasa de éxito en la tarea subía del 45% en la primera generación hasta el 84% en las siguientes, y estimaron que un modelo pequeño podría igualar a GLM-5.2 a finales de 2026.

El escepticismo: «el miedo no es evidencia»

No todos aceptan el diagnóstico. Gregory Kurtzer, fundador de Rocky Linux y consejero delegado de CIQ, señaló que el propio software de prueba lanzaba los programas de IA, que a estos se les ordenaba propagarse explícitamente y que el acceso a las máquinas objetivo se dejó «deliberadamente sin autenticar».

«El experimento fue diseñado para tener éxito y, aun así, no logró demostrar el titular», escribió Kurtzer. «Dejen de confundir escenarios especulativos con capacidades demostradas. El miedo no es evidencia».

Ravid Shwartz-Ziv, investigador de IA en la Universidad de Nueva York, también cuestionó que los resultados prueben que los gusanos de IA se estén propagando en el mundo real: «»Logramos ejecutar un modelo muy lento en televisores baratos» no genera el mismo titular que «se acerca la IA autorreplicante»». Varios especialistas en ciberseguridad recordaron, además, que los gusanos autorreplicantes llevan décadas siendo un problema, incluso sin IA de por medio.

Anthropic, por su parte, matiza el alcance de sus hallazgos: «Todavía no tenemos un replicador completamente descontrolado, pero los agentes son cada vez más capaces de completar los pasos individuales de la cadena de replicación». Y añade una recomendación: «Deberíamos aspirar a blindar nuestros sistemas para dificultar la propagación de estos replicadores, pero también prepararnos para un mundo en el que han llegado para quedarse».

El episodio deja una lección que trasciende el laboratorio. La convergencia entre modelos cada vez más capaces y un parque de dispositivos IoT barato y deficientemente protegido dibuja un vector de amenaza que no depende de grandes centros de datos ni de recursos millonarios. Que el experimento fuera artificial no elimina la tendencia que describe: los eslabones sueltos se están cerrando. El debate real ya no gira en torno a si un gusano de IA es hoy posible, sino a cuánto tardan los fabricantes y los usuarios en blindar el eslabón más débil de la cadena antes de que deje de ser solo una hipótesis.