Ante las elecciones inminentes en distintas partes del mundo, vale la pena detenerse a hablar de las sorprendentes situaciones que están emergiendo debido a los deepfakes creados por la inteligencia artificial (IA) generativa. En India, se ha visto a políticos “resucitar de entre los muertos”, y en Sudáfrica, ha circulado que el rapero Eminem apoya a partidos de la oposición. Aunque estas situaciones no han ocurrido realmente, la tecnología hace que parezca que sí.
Estamos presenciando cómo políticos, campañas y ciudadanos recurren a la IA generativa en los procesos electorales, y esto es solo el principio. La IA está transformando la política globalmente. Mientras muchos estadounidenses miran hacia noviembre, el 2024 ya ha sido decisivo para el resto del mundo. India, la mayor democracia, está concluyendo su votación; Sudáfrica y México acuden a las urnas esta semana; y la Unión Europea se prepara para sus elecciones parlamentarias en junio. Es el mayor año electoral de la historia, con una población más conectada que nunca.
Si eres votante en Indonesia, podrías haber visto un video de un dictador fallecido haciendo campaña por su sucesor. En Samoa Americana, algunos demócratas recibieron mensajes personalizados de un candidato presidencial poco conocido, Jason Palmer, quien superó a Joe Biden en las primarias del territorio insular. En India, algunos recibieron llamadas telefónicas personalizadas generadas por IA de candidatos locales.
Estos son solo ejemplos de cómo la IA generativa está reconfigurando la política, las elecciones y la democracia, haciéndola accesible para todos. Por ejemplo, TikToks con una imagen generada por IA que mostraba al exministro de Defensa de Indonesia, Prabowo Subianto, como alguien tierno y adorable, fueron vistos más de 19,000 millones de veces. Subianto, ahora presidente electo, había sido vetado de ingresar a Estados Unidos por supuestas violaciones de derechos humanos.
Ver también OPEN IA ofrece modelo gratuito
Los expertos advierten que la IA generativa está a punto de cambiar drásticamente el panorama de la información. Problemas como la desinformación, las estafas y los contenidos que incitan al odio podrían amplificarse, a pesar de las medidas de protección de las compañías tecnológicas.
Existen varias formas de detectar si algo se creó o manipuló con IA: confirmaciones por parte de personas o campañas, verificaciones y desacreditaciones por verificadores de información, o el uso claro de IA para sátira. A veces, si hay suerte, el contenido lleva una marca de agua que indica que ha sido generado o modificado por IA. Sin embargo, esto probablemente solo representa una parte de lo que ya existe, y nuestro conjunto de datos es, casi con certeza, una subestimación.
Como señaló el periodista británico Peter Pomerantsev: “Cuando nada es verdad, todo es posible”. En un ecosistema informativo donde cualquier elemento podría ser generado por IA, los políticos pueden negar la veracidad de información real, creando el “dividendo del mentiroso”. Esto implica que es menos probable que la gente crea en información verdadera. Los verificadores de información y periodistas, en muchos casos, carecen de las herramientas para evaluar si algo es obra de la IA.
Pero algo falso no necesariamente es malo. Los deepfakes han encontrado su lugar en la sátira, los chatbots a veces ofrecen buena información, y el alcance personalizado de las campañas permite que los votantes se sientan considerados por sus representantes.
Es un mundo nuevo y valiente, y debemos estar atentos al uso y abuso de la IA generativa, especialmente en los procesos electorales.
Con información de Wired
