Cómo Detectar una Imagen Generada por IA

Alexio Cogni
10 Min Lectura

¡Ah, la tecnología! Nos proporciona imágenes asombrosas, a veces tan hermosas que parecen irreales. Y eso es porque son falsas, ¡generadas por inteligencia artificial! ¿Cómo podemos distinguir entre una foto creada por un artista y un visual fabricado por una máquina?

¿Cuáles son los riesgos y desafíos relacionados con estas imágenes artificiales? ¿Qué trucos y herramientas están disponibles para detectar una foto creada por IA? ¡Eso es lo que vamos a ver en este artículo!

Google DeepMind lanza su herramienta para detectar imágenes de IA

Google DeepMind ha presentado SynthID, una herramienta que ayuda a determinar si una imagen ha sido generada por IA. Aunque aún está en fase de prueba, este proyecto tiene como objetivo agregar una marca de agua, imperceptible a simple vista, directamente en los píxeles de una foto. Si los usuarios e internautas no lo ven, Google lo detecta. ¿Inteligente, verdad?

SynthID genera una marca de agua digital imperceptible para las imágenes generadas por IA
SynthID genera una marca de agua digital imperceptible para las imágenes generadas por IA

¿Por qué esta innovación es tan importante? Imagina los daños que una imagen falsa puede causar. Fotos de escenas impresionantes, pero completamente inventadas, pueden llevar a confusiones o ser utilizadas para la desinformación. En un momento en que Google y muchas otras plataformas digitales luchan contra la propagación de noticias falsas, poder identificar fácilmente las fotos creadas por inteligencia artificial es indispensable.

Además de la marca de agua integrada en las fotos, Google también quiere ayudarnos a rastrear la historia de estas imágenes. El motor de búsqueda planea agregar un botón «Acerca de esta imagen» que contiene el historial y los datos visuales. Los internautas sabrán al instante si la foto proviene de una fuente confiable o de un rincón oscuro de Internet.

SynthID está disponible en Estados Unidos por ahora y pronto se desplegará en otros países. Mientras tanto, existen otras soluciones para detectar imágenes de IA…

Otras Herramientas de Detección de Imágenes Generadas por IA

Google no es el único que ofrece una herramienta para detectar una imagen generada por IA. Existen otras soluciones, gratuitas o de pago, que también utilizan modelos basados en inteligencia artificial para analizar las imágenes y determinar su autenticidad. ¡Aquí está nuestro top 7!

Ai or not

Lanzado en 2022 por Optic, una empresa de inteligencia artificial con sede en San Francisco, esta plataforma (Ai or not) utiliza tecnologías avanzadas para autenticar imágenes, videos y audio, distinguiendo entre contenido real y falso. El objetivo inicial de AI or Not era detectar NFT falsificados. De hecho, mientras que la cadena de bloques garantiza la singularidad e inmutabilidad del registro, no tiene influencia sobre el contenido real de los archivos.

Ai or not para detectar imagen generada IA
Ai or not para detectar imagen generada IA

Por lo tanto, se necesita una infraestructura adicional para verificar si una imagen o video es auténtico, generado por IA, robado o contiene materiales protegidos por derechos de autor. Hasta la fecha, AI o Not ha identificado más de 100 millones de NFT falsos, demostrando una notable eficacia incluso en el reconocimiento de falsificaciones que circulan en la web. El punto débil de la aplicación es el reconocimiento de dibujos humanos, que a veces se confunden con los generados por inteligencia artificial.

Illuminarty

Esta plataforma ofrece una amplia gama de herramientas diseñadas para ayudar a los usuarios a detectar imágenes generadas por inteligencia artificial. En las pruebas que realizamos, Illuminarty evaluó correctamente la mayoría de las fotos reales como auténticas, pero solo etiquetó alrededor de la mitad de las imágenes generadas por IA como artificiales.

Illuminarty para detectar imagen generada por IA
Illuminarty para detectar imagen generada IA

Los creadores afirmaron que la herramienta tiene un diseño deliberadamente cauteloso para evitar acusar falsamente a los artistas de usar inteligencia artificial. En el ejemplo que mostramos, el software reconoció la foto de Putin arrodillado a los pies de Xi que ha circulado mucho en las redes sociales en los últimos meses.

Hugging Face

Su facilidad de uso y acceso gratuito lo convierten en una herramienta realmente funcional. Gracias a su estatus de código abierto, Hugging Face es completamente gratuito para cualquiera que desee utilizarlo. La aplicación ofrece un porcentaje que distingue entre elementos «humanos» y «artificiales». En nuestras pruebas, el reconocimiento se completó en apenas cinco segundos. La precisión es satisfactoria, aunque no perfecta al 100%.

Hugging Face para detectar imagen generada por IA
Hugging Face para detectar imagen generada por IA

FotoForensics

Una herramienta en línea completamente gratuita, FotoForensics utiliza el análisis ELA, la revisión de metadatos y un histograma para ayudar a los usuarios a determinar si una imagen ha sido modificada o retocada. Es decir, se basa en los niveles de compresión JPEG para detectar cambios, evalúa los parámetros técnicos de la foto, así como la distribución de los píxeles para encontrar inconsistencias.

FotoForensics para identificar una imagen generada por IA
FotoForensics para identificar una imagen generada por IA

Forensically

Una plataforma gratuita, Forensically ofrece varias funciones de análisis profundo para detectar una imagen generada por IA o detectar modificaciones en una foto original. La herramienta se basa, entre otras cosas, en el análisis de ruido, nivel de detalle, elementos duplicados y metadatos para verificar la autenticidad de una imagen.

Forensically para detectar imagen generada por IA
Forensically para detectar imagen generada por IA

Truepic

Con la aplicación Truepic, cuando el usuario toma una foto o video, este se fecha automáticamente, se geolocaliza y se somete a una serie de pruebas para garantizar que no haya sido modificada. Estos detalles luego se cifran e incorporan en la imagen o video mismo.

Truepic para verificar autenticidad de imágenes
Truepic para verificar autenticidad de imágenes

La herramienta otorga un sello de autenticidad a tus imágenes, que luego puedes compartir en redes sociales o tu sitio web.

Truepic puede utilizarse para gestionar tu reputación en línea, probar tu identidad, documentar un evento o protegerte contra el robo de propiedad intelectual.

Sensity

Sensity se especializa en la detección de deepfakes. Ya sabes, esos videos manipulados que hacen que personas famosas o anónimas digan o hagan cualquier cosa… La plataforma también ofrece un servicio de monitoreo y alerta para saber en tiempo real si un pirata está utilizando tu marca o imagen para estafar a clientes, socios o empleados.

Sensity para detectar deepfakes
Sensity para detectar deepfakes

Nuestros Consejos para Detectar una Imagen Generada por IA

Además de las herramientas mencionadas anteriormente, hay consejos simples para detectar una imagen generada por IA:

Observa los detalles

Las imágenes generadas por IA pueden tener defectos o inconsistencias que revelan su origen artificial. Por ejemplo, puedes notar distorsiones, desenfoques, píxeles, repeticiones, simetrías o elementos que no encajan en el contexto visual.

Presta atención a los detalles, especialmente al fondo, y compáralos con otras imágenes similares para detectar anomalías.

Verifica la fuente

¿Quién ha publicado la foto? Verificar al autor a veces da una pista sólida sobre la autenticidad de la imagen. Si el sitio web o la cuenta en redes sociales son conocidos por difundir noticias falsas o contenido poco confiable, es recomendable ser cauteloso con lo que ves…

Busca una marca de agua

Algunos generadores de imágenes de IA añaden una marca de agua o su logotipo en las visuales. Esto ocurre con DALL-E y Craiyon, por ejemplo. También puedes explorar las propiedades de la foto para conocer al autor y, posiblemente, averiguar si ha sido procesada por inteligencia artificial.

Confía en tu sentido común

A menudo, las imágenes que provienen de IA son demasiado perfectas para ser reales. Si ves una foto que te parece demasiado perfecta, sorprendente o improbable, desconfía. Utiliza tu sentido común y tu espíritu crítico para evaluar la plausibilidad y veracidad de la imagen. Si tienes dudas, realiza una búsqueda inversa o utiliza uno de los detectores mencionados anteriormente.

Nuestro consejo para detectar una imagen de IA Las imágenes generadas por IA están cada vez más presentes en la web. Si bien su creatividad es útil para los artistas en busca de inspiración, también pueden tener un impacto negativo en la autenticidad de un contenido.

Por lo tanto, es importante saber detectarlas y verificarlas para evitar caer en trampas o difundir información falsa.

¡También ten cuidado con su uso! Con su proyecto DeepMind, Google parece querer impulsar la IA tanto como combatirla… No sabemos cómo se referenciarán las imágenes generadas por IA en el futuro.

Compartir este Artículo
Dejar un comentario

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *