Los generadores de imágenes con inteligencia artificial más avanzados de OpenAI y Google siguen siendo vulnerables: investigadores de seguridad advierten que los modelos más recientes pueden ser engañados con relativa facilidad para producir desnudos. La alerta llega en un contexto en el que grandes volúmenes de contenido íntimo no consentido circulan sin control efectivo y los reguladores apenas aplican medidas capaces de detenerlo.
- El rastro se pierde en lo privado: el material explícito no consentido se comparte sobre todo en mensajes de texto y directos, o se guarda en nubes privadas, espacios donde resulta mucho más difícil detectarlo y denunciarlo.
- El punto crítico está en el origen: un estudio cofirmado por Google concluye que la intervención más eficaz sigue siendo atacar las herramientas de IA que permiten fabricar esas imágenes sexuales falsas.
- Más capacidad, menos filtros: las pruebas de red-teaming de los últimos meses apuntan a que los generadores de imagen de Google y OpenAI bloquean peor las salidas explícitas a medida que ganan potencia.
Un fenómeno que se refugia en los canales privados
La investigación, firmada por especialistas de Google y centrada en usuarios de internet de Estados Unidos, Australia y Reino Unido, se publicó el pasado mes de julio y describe un ecosistema en el que el contenido íntimo no consentido encuentra refugio en canales poco vigilados. Los mensajes directos y el almacenamiento en la nube se han convertido en el vehículo habitual de este material, lo que reduce de forma drástica las probabilidades de que sea detectado, reportado o retirado.
De ahí que los investigadores de Google concluyeran que el esfuerzo debe concentrarse en la raíz del problema:
El «punto de intervención más crítico» sigue estando en el origen: las herramientas de IA dañinas que se utilizan para crear imágenes sexuales falsas.
Ese diagnóstico choca con una realidad incómoda: mientras la capacidad de los modelos generativos crece, las salvaguardas no parecen avanzar al mismo ritmo y el margen de actuación de los reguladores continúa siendo limitado.
Modelos más potentes, salvaguardas más frágiles
El caso de Gemini 4 Argon ilustra esa tensión. Cuando Google DeepMind presentó el modelo, restringió el acceso inicial a equipos de defensa en ciberseguridad; ahora ha abierto la mano y permite usarlo a nivel global a empresas y a los suscriptores de Google AI Ultra y Pro en la aplicación Gemini. También está disponible en Android Studio, Google AI Studio y la plataforma de desarrollo agéntico Google Antigravity. El precio de entrada es de 2 dólares por millón de tokens de entrada y 10 dólares por millón de tokens de salida, tarifas que subirán a 4 y 20 dólares, respectivamente, después del 30 de noviembre.
Google sostiene que ha empleado Gemini 4 internamente en ingeniería de software, ciberseguridad e investigación: optimización de bases de código en Python, identificación y parcheo de vulnerabilidades y una mejora de tres veces en la velocidad con la que sus modelos abiertos Gemma resuelven tareas. La compañía también lo ha aplicado a la IA física, como su investigación en robótica, ayudando a un dispositivo humanoide a comprender la física del mundo real y su entorno. El modelo compite con propuestas frontera como GPT-6 Astra, de OpenAI, y Muse Wonder, de Meta.
En materia de seguridad, Google afirma haber participado en el proceso voluntario de revisión de la Casa Blanca para nuevos modelos y asegura que Gemini 4 superó la inspección de su marco de seguridad, un mecanismo sobre el que el público no tiene visibilidad alguna. Todo ello en un año en el que las preocupaciones por la seguridad de la IA se han disparado, especialmente en torno a los escenarios de «día del juicio final» de la inteligencia artificial.
El acceso se expande más rápido que el control
La expansión no se limita al mercado de consumo. El 14 de octubre, Google DeepMind y Google Cloud anunciaron que darán acceso directo a sus modelos frontera a hasta 200 investigadores científicos europeos, que además recibirán 3 millones de dólares en créditos de computación. El paquete incluye herramientas como AlphaFold 3, WeatherNext, AlphaGenome, AlphaEvolve y AlphaEarth Foundations, pensadas para tareas como predecir fenómenos meteorológicos extremos o mapear estructuras moleculares.
El contraste es evidente: la capacidad de cómputo de frontera se reparte cada vez entre más actores, mientras el control del contenido dañino sigue dependiendo de que cada herramienta decida bloquearlo en origen. Y las pruebas recientes sugieren que esa barrera se debilita justo cuando los modelos se vuelven más competentes.
El debate ya no gira únicamente en torno a la potencia de los modelos, sino a la arquitectura de sus filtros y a la voluntad real de las compañías por mantenerlos efectivos. Mientras la moderación se apoye solo en mecanismos opacos y voluntarios, y el contenido explícito siga desplazándose hacia espacios privados donde nadie lo audita, la brecha entre capacidad y protección tenderá a ampliarse. La presión sobre Google y OpenAI no vendrá tanto de una normativa todavía tibia como de la evidencia acumulada por los propios equipos de seguridad, que cada trimestre documentan un fallo nuevo en modelos con más recursos y más usuarios que nunca.