Cada vez es más complicado distinguir entre una fotografía real y una generada con inteligencia artificial. Lo mismo sucede con los videos y las grabaciones de audio. Hemos llegado a un punto en el que podemos encontrarnos con imágenes de acontecimientos que nunca ocurrieron, escuchar voces que imitan a personas reales o ver videos que parecen completamente auténticos.
Hace algún tiempo bastaba con observar ciertos detalles para sospechar que una imagen había sido generada con IA. Las manos deformadas, las sombras extrañas o las expresiones poco naturales eran algunas de las señales más comunes. Sin embargo, los modelos han evolucionado tanto que esos errores son cada vez menos frecuentes.
En medio de este escenario, Google ha decidido abrir al público SynthID Detector, una herramienta que permite comprobar si una imagen, un video o un archivo de audio contiene marcas digitales que indiquen que fue generado o modificado mediante inteligencia artificial.
Aunque SynthID existe desde 2023, su detector había estado disponible principalmente para periodistas, investigadores y profesionales de los medios. Ahora cualquier persona puede utilizarlo, lo que representa un paso interesante hacia una mayor transparencia sobre el contenido que encontramos en internet.
SynthID: una firma invisible para el contenido generado con IA
Lo interesante de SynthID es que su funcionamiento es diferente al de los detectores tradicionales. En lugar de analizar una imagen buscando errores visuales o elementos que parezcan artificiales, utiliza un sistema de marcas de agua digitales invisibles que se incorporan al contenido durante su generación mediante herramientas compatibles. Estas marcas no aparecen como un logotipo o un texto sobre la imagen, sino que forman parte de la información del propio contenido y están diseñadas para ser identificadas posteriormente. Podemos imaginarlo como una especie de firma digital que acompaña a una fotografía, un video o una grabación de audio sin modificar perceptiblemente su apariencia. Además, la tecnología está diseñada para resistir ciertas modificaciones habituales, como cambios de color, compresión o algunos ajustes de edición, lo que permite que las marcas puedan seguir siendo reconocidas incluso después de que el archivo haya sido procesado.
En el caso de los videos y audios, la tecnología también permite identificar fragmentos específicos en los que se encuentran estas marcas, algo especialmente útil cuando solamente una parte del contenido fue generada o modificada con inteligencia artificial. Google señala que SynthID ya se ha utilizado para marcar miles de millones de contenidos generados con IA y que su tecnología comienza a extenderse más allá de sus propios productos, con la participación de otras empresas del sector. Esto resulta importante porque, para que un sistema de identificación realmente funcione a gran escala, no basta con que una sola compañía lo implemente; se necesita que cada vez más herramientas adopten mecanismos que permitan reconocer el origen de sus creaciones. De lo contrario, continuaremos teniendo una gran cantidad de contenido artificial que no podrá identificarse mediante este tipo de soluciones.
Cómo utilizar SynthID Detector y qué podemos comprobar
Con esta apertura, Google pone a disposición de cualquier usuario una plataforma desde la que es posible analizar archivos sin necesidad de conocimientos técnicos. Para utilizarla, solamente debemos ingresar a synthid.com, iniciar sesión y cargar la imagen, el video o el audio que queremos comprobar. La herramienta admite formatos habituales como JPG, PNG, MP4, MOV, MP3 y WAV, entre otros. Una vez cargado el archivo, SynthID realiza un análisis para buscar las marcas digitales compatibles y, si encuentra alguna, muestra el resultado. Dependiendo del tipo de contenido, también puede indicar las regiones de una imagen o los fragmentos de audio y video donde fue identificada la marca. El procedimiento es relativamente sencillo y permite que cualquier persona pueda realizar una comprobación sin tener que recurrir a herramientas especializadas o conocimientos avanzados sobre inteligencia artificial.
Imaginemos, por ejemplo, que encontramos en redes sociales una fotografía sorprendente que aparentemente muestra un acontecimiento extraordinario. Antes de compartirla, podríamos descargarla y analizarla con SynthID para comprobar si contiene alguna señal de haber sido generada mediante inteligencia artificial. Sin embargo, aquí aparece una de las principales limitaciones de esta tecnología: SynthID no puede identificar cualquier contenido generado con IA, ya que su funcionamiento depende de que el archivo contenga una marca compatible. Por lo tanto, si una imagen fue creada utilizando una herramienta que no incorpora esta tecnología, el detector podría no encontrar ninguna señal, aunque el contenido sea completamente artificial. Esto significa que un resultado negativo no garantiza que una fotografía sea real y, del mismo modo, encontrar una marca tampoco implica necesariamente que todo el contenido haya sido generado desde cero, ya que también puede tratarse de material auténtico que posteriormente fue modificado.
Esta diferencia me parece especialmente importante porque podemos caer en el error de considerar estas herramientas como verificadores absolutos de autenticidad, cuando en realidad solamente nos proporcionan información adicional sobre el posible origen del contenido. Una fotografía puede no contener ninguna marca digital y aun así haber sido creada completamente mediante inteligencia artificial, mientras que una imagen auténtica puede incorporar elementos generados artificialmente durante un proceso de edición. Por eso, aunque SynthID representa una alternativa interesante para identificar determinados contenidos, todavía no podemos utilizarlo como una respuesta definitiva a la pregunta de si algo es real o falso. Su utilidad está en aportar una evidencia técnica adicional que podemos considerar junto con otros elementos, como la fuente original, el contexto de la publicación y la existencia de información que respalde lo que estamos viendo.
El reto no es solamente detectar la IA, sino aprender a convivir con ella
La llegada de herramientas como SynthID me parece interesante porque refleja cómo está cambiando nuestra relación con el contenido digital. Durante los primeros años de la inteligencia artificial generativa, gran parte de la conversación se concentraba en lo sorprendente que resultaba crear imágenes a partir de una descripción. Después comenzamos a preocuparnos por el realismo de esas creaciones y por nuestra capacidad para distinguirlas de una fotografía auténtica. Ahora estamos entrando en una etapa diferente, en la que también necesitamos mecanismos técnicos que nos permitan conocer su procedencia. Creo que es una evolución necesaria, especialmente cuando buena parte de la información que consumimos diariamente proviene de redes sociales, donde una imagen puede compartirse miles de veces sin que nadie se detenga a cuestionar su origen o verificar si realmente corresponde al acontecimiento que supuestamente representa.
No considero que el problema sea la creación de imágenes, videos o audios mediante inteligencia artificial. Estas herramientas ofrecen posibilidades creativas que hace algunos años parecían difíciles de imaginar y que actualmente están al alcance de prácticamente cualquier persona. De hecho, yo mismo las utilizo en algunas publicaciones de este blog para representar ideas, acompañar determinados temas o experimentar con nuevas formas de presentar contenido. El verdadero problema aparece cuando una creación artificial se presenta como si fuera una evidencia de algo que realmente ocurrió, especialmente cuando se utiliza para informar, manipular o generar confusión. También debemos recordar que una fotografía completamente real puede utilizarse para difundir información falsa si se presenta fuera de contexto, por lo que identificar si algo fue creado con IA es solamente una parte del proceso de verificar lo que consumimos.
Probablemente en los próximos años tendremos que acostumbrarnos a una internet en la que convivan fotografías tradicionales, imágenes completamente generadas mediante inteligencia artificial y contenidos que combinen ambos métodos. En ese escenario, tecnologías como SynthID pueden ayudarnos a tener más información, pero también será necesario desarrollar un criterio propio para cuestionar lo que vemos y las fuentes de donde proviene. La apertura de SynthID no significa que finalmente podamos distinguir todo lo real de lo artificial, pero sí representa un avance hacia una mayor transparencia en un entorno digital donde cada vez será más difícil reconocer esa diferencia solamente con nuestros ojos. Y quizá ese sea el cambio más importante: dejar de preguntarnos únicamente si una imagen parece real y comenzar a interesarnos también por cómo fue creada.
Fuentes de referencia:
- Google DeepMind — SynthID.
- Google — SynthID Detector.
- TreceBits — Google abre SynthID al público: cómo comprobar si una imagen, vídeo o audio ha sido creado con IA.