Marcas de agua invisibles y la carrera armamentista de las imágenes IA: ¿Está ganando Google?
Las nuevas herramientas de Google prometen detectar imágenes generadas por IA, pero los ciberdelincuentes ya están planeando sus próximos movimientos.
Datos rápidos
- Google Gemini ahora detecta marcas de agua ocultas en imágenes generadas por IA usando la tecnología SynthID.
- SynthID incrusta etiquetas digitales invisibles en imágenes creadas por las herramientas de IA de Google.
- La detección solo funciona para imágenes generadas por los modelos de Google, no para contenido de la competencia.
- Investigadores ya han demostrado formas de eliminar o eludir estas marcas de agua.
- Google planea apoyar estándares de metadatos a nivel industrial, pero ningún sistema es infalible.
La escena: un juego del gato y el ratón en la galería digital
Imagina una vasta galería de arte en línea donde cada pintura podría ser una falsificación. Así es el internet de hoy, donde imágenes generadas por IA inundan cronologías y noticias, desdibujando la línea entre lo real y lo sintético. En este paisaje caótico, Google ha desplegado nuevas armas - pero los falsificadores ya están afilando sus herramientas.
La apuesta de Google: SynthID y la búsqueda de autenticidad
Para enfrentar la creciente ola de imágenes creadas por IA, Google ha ampliado su plataforma Gemini para incluir una herramienta de detección que busca marcas de agua digitales invisibles. Estas marcas, producidas por una tecnología llamada SynthID, se ocultan en los píxeles de cada imagen generada por los modelos de IA de Google. Son invisibles al ojo humano y están diseñadas para sobrevivir a ediciones básicas, recortes o cambios de tamaño - como una firma secreta oculta en las pinceladas de una pintura.
Lanzado en 2023, SynthID representó un avance en la procedencia digital. La idea: si cada imagen generada por IA lleva una marca imborrable, cualquiera podría verificar su origen más tarde. Gemini ahora permite a los usuarios comprobar imágenes en busca de estas marcas directamente en la app o en la web, proporcionando un filtro muy necesario en la era de los deepfakes y los medios sintéticos.
Los límites: vacíos legales y tácticas de evasión
Pero hay un problema. SynthID solo etiqueta imágenes producidas por los generadores de Google. Si subes una imagen creada por una IA rival - como DALL-E de OpenAI o una herramienta de Adobe o Meta - el detector de Gemini no puede identificarla de forma fiable. Más preocupante aún, investigadores académicos de la Universidad de Waterloo demostraron recientemente que marcas de agua como SynthID pueden eliminarse en minutos usando chips gráficos comunes, haciendo que la detección sea inútil. Mientras tanto, los enfoques basados en metadatos, como el estándar C2PA, pueden ser aún menos fiables, ya que las etiquetas se eliminan o se pierden fácilmente durante las conversiones de archivos.
Google ha anunciado planes para apoyar estándares industriales como C2PA, con la esperanza de construir una red de confianza más amplia. Pero con la mayoría de los generadores de imágenes IA usando sus propios esquemas incompatibles, el sueño de una detección universal sigue lejano. La carrera armamentista continúa: mientras los defensores añaden nuevas marcas de agua, los atacantes inventan nuevos disolventes.
Innovación y escalada: el caso de Nano Banana Pro
Junto a estas mejoras de detección, Google ha presentado Nano Banana Pro, un modelo de imagen de nueva generación que destaca en la generación de texto claro dentro de imágenes - un punto débil tradicional del arte IA. En las demostraciones, incluso después de intentos deliberados de borrar las marcas de agua de SynthID, el sistema de Gemini a veces seguía señalando la imagen como creada por IA, lo que sugiere que la resistencia de las marcas de agua está mejorando. Sin embargo, como demuestra la historia, cada avance es rápidamente contrarrestado por nuevas tácticas de evasión.
El mundo del arte digital es ahora un campo de batalla de tinta invisible y detectives forenses, con gigantes tecnológicos y ciberdelincuentes enfrascados en un duelo interminable. Por ahora, los últimos movimientos de Google dificultan - pero no imposibilitan - que las falsificaciones IA pasen desapercibidas. La verdad es que, en esta carrera armamentista, la solución de hoy es el código vulnerado de mañana. A medida que evolucionan las herramientas de engaño, también deben hacerlo nuestros métodos de detección, recordándonos que en la confianza digital no existen balas de plata - solo líneas cambiantes en la arena.
WIKICROOK
- SynthID: SynthID es una herramienta de Google DeepMind que marca de forma invisible las imágenes generadas por IA, permitiendo verificar posteriormente su origen y autenticidad.
- Marca de agua: Una marca de agua es un código digital incrustado en archivos multimedia para verificar autenticidad, identificar propiedad y detectar manipulaciones o usos no autorizados.
- Metadatos: Los metadatos son información oculta adjunta a archivos digitales, como fotos o anuncios, que contienen detalles como fecha de creación, autor o dispositivo utilizado.
- C2PA: C2PA es un estándar que incrusta metadatos seguros e inalterables en medios digitales, verificando su origen, autoría y cualquier modificación.
- Deepfake: Un deepfake es un medio generado por IA que imita la apariencia o voz de personas reales, a menudo usado para engañar mediante la creación de videos o audios falsos convincentes.
