Suscríbete aquí al boletín informativo del Brennan Center en español
- Una parte de nuestro estudio analizó si los seis principales chatbots podían distinguir cuándo una imagen había sido creada por la inteligencia artificial.
- La mayoría no pudo hacerlo, ni siquiera con imágenes creadas por sus propios productos.
A medida que se acercan las elecciones de medio término de 2026, muchas personas recurrirán a los chatbots para verificar información, incluyendo la autenticidad de las imágenes relacionadas con las elecciones. Nuestras investigaciones apuntan a que no deberían hacerlo.
El Brennan Center recientemente publicó un estudio que evalúa cómo gestionan las herramientas de la inteligencia artificial los contenidos de desinformación electoral. Una parte de nuestro estudio analizó si los seis principales chatbots ––ChatGPT, Claude, Gemini, Grok, Meta AI y Perplexity–– podían distinguir cuándo una imagen había sido creada por la inteligencia artificial. La mayoría no pudo hacerlo, ni siquiera con imágenes creadas por sus propios productos.
Además, solo Gemini (de Google), fue capaz de verificar los datos de origen integrados en las imágenes. Los datos de origen son un registro invisible integrados en cada archivo que identifica quién lo creó.
La Ley de Transparencia de la IA de California entró en vigor en agosto, justo cuando se estaba publicando el informe. Esta nueva ley incluye varios requisitos para las empresas que ofrecen plataformas de inteligencia artificial al público, tales como: utilizar registros de origen integrados a imágenes, videos y audios producidos por un sistema de inteligencia artificial; ofrecer a los usuarios la opción de incluir un indicador visible de que el contenido fue creado por la inteligencia artificial; y facilitar a los consumidores una forma de acceder a los registros de origen. El objetivo de la ley es permitir a los consumidores determinar la naturaleza del contenido generado por la inteligencia artificial.
A mediados de septiembre, repetimos nuestras pruebas para ver si el rendimiento de los chatbots había mejorado tras la entrada en vigor de la ley de California. No mejoraron. Los chatbots seguían siendo poco competentes en detectar el contenido generado por la inteligencia artificial. Gemini siguió siendo el único que verificaba los metadatos que la ley ahora exige integrar en las imágenes generadas por la inteligencia artificial.
Nuestras pruebas comenzaron con una imagen generada por Gemini que muestra a empleados postales clasificando correo electoral en Philadelphia. La imagen contenía metadatos de Google y un pequeño destello blanco en la esquina inferior derecha, el cual Google utiliza como marca de agua visible. (Cabe señalar que, para publicar ésta y las otras imágenes en el portal web del Brennan Center, hemos añadido un texto a las imágenes indicando que fueron generadas por la inteligencia artificial, pero ese texto no estaba presente durante las pruebas).
Cuatro de los chatbots concluyeron equivocadamente que era una imagen auténtica. Dos de ellos detectaron la marca de agua visible en la esquina inferior derecha, pero descartaron que esto fuese prueba de que la imagen hubiera sido generada por la inteligencia artificial. ChatGPT afirmó que el destello probablemente era una marca de una red social o un diseño gráfico, y no algo relacionado con la inteligencia artificial.
Perplexity dijo que podría ser una marca de una aplicación o plataforma, y específicamente dijo que no era una marca de agua indicativa de que la imagen había sido creada por la inteligencia artificial. Ambos chatbots destacaron los uniformes de los empleados postales, la iluminación de la imagen y el contenido impreso en los sobres para respaldar su conclusión de que la imagen era real.
En cambio, Gemini leyó los metadatos y afirmó que la imagen fue creada por las herramientas de Google. También dijo que la data solo era un indicador, y que era necesario tener más información para determinar de manera concluyente si la imagen había sido generada por la inteligencia artificial. Meta AI detectó que la imagen tenía contenido generado por IA basado en la marca de agua visible, pero no informó haber analizado los metadatos ocultos.
Luego, ensayamos otras dos imágenes (presentadas a continuación con textos superpuestos que añadimos para esta publicación). Ambas fueron generadas por ChatGPT y ambas incluían los metadatos de OpenAI. Una vez más, Gemini detectó los metadatos e identificó a OpenAI como el creador de las imágenes.
De todos los chatbots evaluados, Gemini fue el único que inspeccionó los metadatos en lugar de basarse en un análisis visual. Ninguno de los otros chatbots hizo referencia a los metadatos, ni siquiera ChatGPT, el cual creó las imágenes.
En el caso de la imagen con el buzón, ChatGPT analizó la coherencia de las sombras, las manos y la señal de la calle, y concluyó que la foto muy probablemente era auténtica. Grok fue más allá: afirmó que era un buzón postal real en esa calle de San Mateo, California, y que las casas y palmeras coincidían, por lo que se trataba de una foto real.
Claude dijo que no había pruebas en la foto que apuntaran a su falsedad y sugirió que probablemente se trataba de una fotografía de archivo. Perplexity indicó que la imagen no parecía claramente haber sido generada por la inteligencia artificial. Meta AI la calificó como una foto real.
Al evaluar la imagen mostrando a los agentes del FBI intimidando a una mujer durante una jornada de registro de votantes, ChatGPT, Grok y Perplexity acertaron en indicar que la imagen había sido generada por la IA, pero llegaron a esa conclusión señalando que la escena parecía ser un montaje y que las búsquedas no arrojaron ninguna fuente real. Ese enfoque sólo funciona cuando una imagen generada por la inteligencia artificial presenta pistas evidentes, lo cual no siempre ocurre.
Gemini inspeccionó los metadatos e identificó a OpenAI como la fuente. Claude y Meta AI consideraron que la imagen era real, señalando el aspecto natural de las manos, los letreros legibles y las sombras coherentes. Claude también mencionó que el FBI allanó a una organización sin fines de lucro este año en Ohio. Aunque no afirmó que la foto correspondía a esa redada, incluir esta información puede servir para validar la autenticidad de la foto ante alguien que ya está predispuesto a creer que es real.
