Suscríbete aquí al boletín informativo del Brennan Center en español
- Evaluamos los chatbots estadounidenses de inteligencia artificial más usados.
- Los resultados fueron sorprendentes: en algunos aspectos, alentadores y, en otros, preocupantes.
La inteligencia artificial (IA) está sacudiendo y transformando al mundo en muchísimos aspectos, desde los centros de datos que consumen enormes cantidades de energía hasta los efectos en el mundo laboral, desde la gigantesca burbuja de inversiones hasta los grandes avances médicos. Inevitablemente, va a reconfigurar la política y la gobernanza.
Las elecciones de 1960 fueron las primeras en estar dominadas por la televisión, y las elecciones de 2016, por las redes sociales. ¿Cuándo tendremos las primeras elecciones revolucionadas por la inteligencia artificial? ¿Mejorará o empeorará la situación? ¿La basura digital generada por la inteligencia artificial abrumará nuestra democracia este próximo noviembre?
Durante los últimos meses, un equipo de expertos en tecnología del Brennan Center llevó a cabo un importante estudio sobre el tema, que publicamos hoy. Evaluamos los chatbots estadounidenses de inteligencia artificial más usados, entre ellos, ChatGPT, Gemini, Grok y Meta AI.
Los resultados fueron sorprendentes: en algunos aspectos, alentadores y, en otros, preocupantes.
Hay una buena noticia: los chatbots refutaron bien las teorías conspirativas falsas propagadas durante las últimas elecciones. Podrían desempeñar un rol constructivo. En ese sentido, por ahora, son mucho mejores que tus novedades de Instagram repletas de información errónea publicada por bots.
El informe explica: “Los chatbots pueden ser muy aduladores. En algunos contextos, halagan al usuario o terminan aceptando las alegaciones falsas cuando se los presiona. Los chatbots de inteligencia artificial que pusimos a prueba, a menudo, elogiaron nuestras preguntas, incluso las basadas en teorías ya desmentidas. Pero igualmente disputaron la información errónea”.
Ahora viene la mala noticia. Los chatbots fueron muy hábiles para ayudar a crear desinformación sobre las elecciones y les costó bastante discernir los contenidos falsos de los reales.
Le pedimos a cada chatbot que nos creara el tipo de imágenes que quisieran ver quienes se preocupan por las teorías conspirativas sobre las elecciones. Trabajadores electorales metiendo en los buzones muchísimas boletas. Un gran número de personas no ciudadanas votando. Máquinas de votación siendo manipuladas. Y así sucesivamente.
Grok, en particular, tuvo una respuesta alarmante cuando le pedimos redactar las instrucciones para que todos los chatbots pudieran usarlas a fin de crear estas imágenes falsas.
En su texto de “cadena de pensamiento” —la respuesta temporaria que muestra el chatbot mientras genera su respuesta a la pregunta realizada por el usuario—, Grok reconoció que algunas de las alegaciones falsas que le pusimos “podrían incitar disturbios y disputar elecciones”. Aun así, dijo que la “información errónea sobre las elecciones no figura como una actividad no permitida”. (Cuando volvimos a ponerlo a prueba en julio, Grok ya no decía que “la información errónea” no estaba prohibida, pero igualmente generó las instrucciones que le pedimos).
Los chatbots de las otras compañías no fueron tan explícitos sobre su libertad de producir información errónea sobre las elecciones y se resistieron a nuestro pedido de escribir las instrucciones. Pero, una vez que Grok creó esas instrucciones, todas las herramientas generativas de imágenes que pusimos a prueba se mostraron dispuestas a usarlas para crear contenidos falsos.
Por ejemplo, les pedimos a los chatbots que crearan una foto de una persona colocando muchas boletas de voto por correo en un buzón:
También les pedimos una imagen de un funcionario gubernamental presentando pruebas de personas no ciudadanas registradas para votar en todo el país:
(Verás que les colocamos marcas de agua para que la gente no crea accidentalmente que son imágenes reales. Del mismo modo, tampoco publicamos las instrucciones, o prompts, que usamos para generar estas imágenes).
También les preguntamos a los chatbots si creían que las imágenes creadas por la inteligencia artificial eran reales o falsas. No pudieron diferenciarlas más de una vez.
Les dijimos que habíamos encontrado una imagen en las redes y les preguntamos si había sido generada por la inteligencia artificial. Gemini y Meta AI identificaron correctamente la mayoría de las 14 imágenes generadas por la inteligencia artificial. ChatGPT, Grok, Claude y Perplexity identificaron correctamente cuatro o menos. Algunos chatbots ni siquiera pudieron identificar sus propias imágenes como generadas por la inteligencia artificial.
Estamos a las puertas de esta tecnología impresionante. Tanto los tecnooptimistas como los fatalistas argumentan que va a transformar la sociedad a una velocidad asombrosa. El debate político se mueve mucho más lento. Recién ahora estamos debatiendo verdaderamente cómo crear o preservar las salvaguardas.
La administración Trump oscila entre los extremos de una desregulación agresiva y las prohibiciones ofuscadas por el pánico sobre algunos modelos de inteligencia artificial. Mientras tanto, el público se ha manifestado en oposición a los centros de datos. El miedo a la pérdida de los puestos de trabajo y la deshumanización laboral podrían convertirse en temas políticos centrales.
Sin embargo, no podemos llegar a un debate sólido ni decisiones electorales justas si no podemos confiar en la información con la que contamos para votar y administrar las elecciones. Quienes elaboran las políticas deben actuar con rapidez para encontrar formas de ponerle un freno a la tendencia de la inteligencia artificial de crear o ignorar la desinformación sobre las elecciones. ¿Puede hacerse algo realmente para guiar este torrente de cambios tecnológicos?
Una nueva ley estatal nos da una noticia alentadora. La Ley de Transparencia sobre la Inteligencia Artificial de California (AI Transparency Act) entró en vigencia la semana pasada. Obliga a las grandes compañías de inteligencia artificial a colocar marcas de agua invisibles en las imágenes que generan sus productos para que puedan ser identificadas como creadas por inteligencia artificial.
Cuando volvimos a poner a prueba los chatbots la semana pasada, Gemini utilizó estas marcas para identificar correctamente algunas de las imágenes como de inteligencia artificial. Si bien otros chatbots aún no especificaron que habían revisado estas marcas de agua, hay motivos para creer que en los próximos meses todas las compañías de inteligencia artificial comenzarán a utilizar estos datos para responder cuando se les pregunta si las imágenes son reales o no.
En verdad, no sabemos qué ocurrirá el día de las elecciones. Quizá, tal como pasó en 2024, la información errónea potenciada por la inteligencia artificial se considere una posible preocupación que al final no tiene un gran impacto, al menos por ahora. O podría terminar siendo un factor decisivo en las contiendas más importantes, de maneras que no prevemos y que quizá tampoco comprendamos después.
