#26 Info / Desinfo #LATAMUE. 21 Diciembre 2023
Jueves de novedades en Elecciones, Tecnología y Democracia
Hoy es un Jueves de de InfoyDesinfo especial, pues llega a tu buzón en viernes! (nuestras excusas por el desfase, que tuvo que ver con el Espíritu de la Navidad ; )
Tenemos varias noticias interesantes desde esta esquina: la Unión Europea se ha convertido en el primer continente en establecer normas explícitas sobre el uso de la inteligencia artificial. Ello tiene pros y contras, y el debate está abierto. Elon Musk, en particular, comenzará a experimentarlo muy pronto.
2024 será un año de muchas elecciones. La mitad del planeta está convocado a votar en este año, donde la IA pondrá a prueba la democracia. La primera gran elección será la de Bangladesh, el 7 de enero, y ya se vislumbra allí lo que puede venir a escala global. En 2024 habrá más de 70 elecciones en todo el mundo. Todas son vulnerables… Xavier Peytibi escribe sobre este tema.
Les traemos además un artículo que describe un prometedor experimento desarrollado para potenciar la deliberación democrática y lograr políticas públicas que reflejen la voluntad informada de la población.
Las imágenes de este ejemplar están diseñadas usando el generador de IA Stable Diffusion. Para cada ilustración se indica el “prompt” utilizado.
Acuerdo político europeo sobre la Ley de Inteligencia Artificial
La UE se convierte en el primer continente en establecer normas claras sobre el uso de la inteligencia artificial.
La presidenta de la Comisión Europea, Ursula von der Leyen ha dicho que «La inteligencia artificial ya está cambiando nuestra vida cotidiana, y esto tan solo es el principio. Utilizada de forma sensata y generalizada, la inteligencia artificial promete enormes beneficios para nuestra economía y nuestra sociedad. La Ley de IA lleva los valores europeos a una nueva era. Al centrar la regulación en los riesgos identificables, el acuerdo alcanzado hoy fomentará la innovación responsable en Europa. Nuestra Ley de IA contribuirá de manera sustancial a la formulación de normas y principios mundiales sobre una inteligencia artificial centrada en el ser humano».
La ley clasifica los sistemas de IA en tres niveles de riesgo: mínimo, alto e inadmisible, con normas específicas y multas para garantizar el cumplimiento. Se destaca la creación de una Oficina Europea de Inteligencia Artificial para supervisar la aplicación de las normas a nivel europeo. La ley entrará en vigor después de la aprobación formal, con disposiciones específicas aplicándose en plazos diferentes.
El acuerdo de legislación no está exento de críticas, que fundamentalmente apuntan a que la Ley implicará un frenazo a la innovación, cosa que argumentan las propias plataformas (Amazon, Apple, Google, Intel, Meta, Uber y X, entre otras). Una de las primeras voces críticas viene del presidente Macron: “Podemos decidir regular mucho más rápido y mucho más fuerte que nuestros principales competidores. Pero regularemos cosas que ya no produciremos ni inventaremos. Esto nunca es una buena idea"
Leerlo completo en español. Tambien en inglés.
¿Multa para Elon?
La Comisión Europea, a través del Comisario de Interior, Thierry Breton, ha anunciado que X ha infringido las leyes europeas y se expone a ser multado. La investigación formal concluyó que X ha infringido varios apartados establecidos por la Ley de Servicios Digitales (DSA). Una nueva ley que ha entrado en vigor este 2023 y establece una serie de obligaciones para las plataformas online.
X ha infringido su obligación de transparencia. Tampoco ha combatido el contenido ilegal y la desinformación, a lo que está obligada la plataforma. El caso llega a raíz de la guerra de Israel y Palestina, donde X ha permitido la proliferación de todo tipo de mensajes. “Esto es particularmente relevante cuando se trata de contenido violento y terrorista que parece circular en su plataforma", explicaba Breton.
Un tercer problema al que apunta la Comisión Europea es la de un diseño engañoso en su interfaz de usuario.
Today we open formal infringement proceedings against @X :
⚠️ Suspected breach of obligations to counter #IllegalContent and #Disinformation
⚠️ Suspected breach of #Transparency obligations
⚠️ Suspected #DeceptiveDesign of user interface#DSA pic.twitter.com/NxKIif603k— Thierry Breton (@ThierryBreton) December 18, 2023
Según recoge la DSA, las multas son hasta el 6% de los ingresos anuales de X, que en el caso de la plataforma se estiman en 629 millones de dólares, por lo que la multa sería de hasta 38 millones de euros.
Leerlo completo en Xacata.
Diálogos colectivos potenciados por IA, un experimento
Un reciente paper de cuatro profesores anglosajones desarrolla un proceso de deliberación democrática para desarrollar políticas que reflejen la voluntad informada de la población. Los ptofesores Andrew Konya, Lisa Schirch, Colin Irwin y Aviv Ovadya hicieron un experimento con diálogos colectivos potenciados por IA, que hacen que la deliberación sea democráticamente viable a gran escala.
El proceso integra aportes democráticos con experiencia en la materia para obtener políticas optimizadas tanto en representatividad como en calidad. La clasificación es basada en puentes y permite descubrir consensos rápidamente. Herramientas potenciadas por GPT-4 hacen que el proceso sea eficiente. La modularización hace que el proceso sea reproducible. Los diálogos colectivos involucran a los participantes primero siendo educados sobre un tema, seguido por una deliberación estructurada basada en texto en la que los participantes iterativamente: a) responden a preguntas abiertas, b) ven y evalúan las respuestas de los demás, y c) reflexionan sobre perspectivas representativas.
El experimento probó el proceso tres veces, desarrollando pautas de política para asistentes de IA relacionadas con situaciones de asesoramiento médico, información sobre vacunas, y guerras y conflictos. Cada ejecución del proceso tomó dos semanas, costó alrededor de $10,000 USD e incluyó aportes democráticos de más de 1500 participantes representativos de la población estadounidense; incluyendo alrededor de 5000 respuestas de texto y casi 100,000 votos. Las pautas de política resultantes tuvieron un fuerte respaldo en todos los sectores demográficos de EE. UU.: entre un 75-81% de apoyo público en general, y no menos del 70-75% de apoyo en grupos demográficos que abarcan edad, género, religión, raza, educación y partido político.
Los laboratorios de IA y los órganos de gobierno pueden utilizar este proceso para desarrollar conjuntos concisos de pautas de política común que superen las divisiones demográficas y reflejen lo que una población dada desea. Es ideal para aquellos que tienen que tomar decisiones políticas que afectan a grandes poblaciones y desean un proceso democrático para alinear esas decisiones con la voluntad informada del público.
Leer el paper completo (en inglés)
Bangladesh electoral y la IA
170 millones de electores tienen derecho a votar en las elecciones de Bangladesh del próximo enero, una elección que dará inicio al amplio ciclo electoral del 2024, donde veremos muchos nuevos esfuerzos de desinformar. La desinformación digital que distorsiona las elecciones no es nueva, claramente. Es previa al actual ciclo de de la inteligencia artificial. Lo nuevo es la facilidad y bajo costo con la que los agentes políticos de los países en desarrollo pueden acceder a modelos de IA generativa de vanguardia, más allá del escrutinio de los observadores electorales.
El comando de campaña del primer ministro de Bangladesh ha utilizado herramientas de desinformación impulsadas por IA para difundir noticias falsas antes de las elecciones de enero. Las imágenes fabricadas incluyen un clip de diplomáticos estadounidenses supuestamente interfiriendo en las elecciones y figuras de la oposición que se muestran ambiguas sobre el apoyo a los palestinos en Gaza: un meme potencialmente explosivo dado que Bangladesh es más del 90 por ciento musulmán.
El Financial Times dice que personas que trabajan para la primera ministra Sheikh Hasina crearon el clip falso sobre diplomáticos estadounidenses utilizando un generador de vídeo comercial creado en Los Ángeles por HeyGen y disponible por 24 dólares al mes. Otro clip falso que muestra a un líder juvenil de la oposición mintiendo sobre su edad utilizó un modelo de D-ID, con sede en Tel Aviv.
En el 2024 habrá más de 70 elecciones en todo el mundo. Todas son vulnerables…
Leer más en Financial Times
El mundo es plano (pero no es lo que piensas…)
"El mundo es plano" afirmó Thomas Fiedman hace casi dos décadas en su libro homónimo. Pero no se refería a lo que va pasando: las principales potencias autoritarias se han insertado en los flujos globales de información, tecnología y finanzas. Descubrieron oportunidades en los algoritmos opacos y la vigilancia generalizada que se alinean bien con sus preferencias antidemocráticas...
Un artículo de Cristopher Walker en el influyente Journal of Democracy analiza cómo los regímenes totalitarios, especialmente China y Rusia, se benefician de un entorno global que se ha vuelto más hostil hacia la democracia y los derechos humanos. La brecha de conocimiento sobre estos regímenes, alimentada por sus extensos recursos y control de la información, crea asimetrías que funcionan a su favor. El autor destaca ejemplos como la "asociación estratégica" entre Georgia y China, donde países más pequeños carecen de la experiencia para evaluar las implicaciones de relacionarse con poderes autoritarios. El artículo enfatiza el impacto de los desequilibrios de información, la manipulación mediática y los avances tecnológicos que favorecen la vigilancia y el control.
Las nuevas herramientas tecnológicas facilitan que los regímenes autoritarios vigilen a sus poblaciones (por ejemplo, mediante el reconocimiento facial) y ayuden a las fuerzas antidemocráticas de otros países a hacer lo mismo. Un ejemplo se encuentra en Uganda, donde las autoridades utilizaron un proceso de licitación secreto para que Huawei trabajara con funcionarios de seguridad ugandeses y así diseñar un sistema de Ciudades Seguras a gran escala que se adaptara a las necesidades del gobierno.
Otro ejemplo mencionado es el de TikTok, propiedad de la empresa tecnológica china ByteDance: La plataforma ha tenido un crecimiento astronómico, con más de mil millones de usuarios activos en todo el mundo (147 millones solo en los Estados Unidos), recopilando datos sobre esos usuarios, rastreando preferencias y actividades en línea. China está elaborando reglas que permitirán a las autoridades de Beijing utilizar plataformas tecnológicas para recopilar datos globales con fines de 'seguridad nacional', un término que las autoridades chinas mantienen vago y opaco en las leyes de protección de datos. Diplomáticos y funcionarios gubernamentales de China explotan plataformas de redes sociales extranjeras como Facebook y Twitter que están bloqueadas para sus propios ciudadanos. El PCC encuentra cada vez más formas de aprovechar a los “influencers” en línea. Un informe publicado recientemente por el Instituto Australiano de Política Estratégica encontró que “personas influyentes extranjeras están involucradas en una ola de experimentación e innovación en la producción de propaganda interna (y externa)”
El enfoque de los autócratas hacia la gobernanza se basa en la vigilancia y el control en lugar de la apertura y la deliberación. Suprimir el periodismo independiente, censurar el espacio de la información digital y evitar el dominio público. El artículo concluye invitando a las democracias a abordar estos desafíos promoviendo la transparencia, revelando la opacidad y fomentando el intercambio de información entre regiones.
Leerlo completo en Journal of Democracy (en inglés)
CfP: la IA generativa en el periodismo
Generative AI Age in Journalism: Unveiling Artificial Intelligence’s
Potential and Challenges in the News Industry Worldwide*
La revista Journalism Practice (Q1 en JCR) ha convocado un número extraordinario sobre la Inteligencia Artifical en el periodismo. Link: https://bit.ly/GenerativeAIAgeJournalism
* *Abstract Submission:* January 5th , 2024
* *Paper Submission: *June 30th, 2024
* *Expected Publication Date:* Q4 2024 – Q1/2025
En los últimos años, la integración de tecnologías de inteligencia artificial (IA) en el periodismo y la producción mediática ha generado una transformación global en la forma en que se recopila, produce y difunde información. Estas tecnologías ofrecen nuevas posibilidades para mejorar la recopilación de noticias, la generación de contenido, la participación del público y el análisis de datos. Además, poseen inmensas capacidades y ofrecen increíbles promesas de transformación para los medios y el periodismo. El paisaje del periodismo impulsado por la IA ha experimentado un notable auge en el desarrollo y la utilización de tecnologías generativas de IA, como ChatGPT y DALL-E . Estas tecnologías han proporcionado herramientas fáciles de usar para las organizaciones mediáticas en la creación de contenido a escala, la automatización de tareas repetitivas y el mejoramiento del análisis de datos. Mientras que el periodismo impulsado por la IA ha recibido considerable atención en diferentes paisajes mediáticos, se reconoce cada vez más la implicación única, los desafíos y las oportunidades que plantea la IA en la industria de noticias a nivel mundial.
Este número especial busca llenar este vacío de conocimiento explorando la apropiación de tecnologías de IA en la producción de noticias en diferentes contextos mediáticos. La aplicación de la IA en diferentes regiones conlleva una serie de complejidades que requieren una investigación en profundidad. Los profesionales latinoamericanos tienen sentimientos mixtos, con visiones optimistas y pesimistas sobre la aplicación de la IA en el periodismo. Sin embargo, en su mayoría perciben tales herramientas como una oportunidad en lugar de como una amenaza (Soto-Sanfiel et al., 2022). Este número especial también tiene como objetivo abordar la preocupación apremiante de la "brecha de la IA" entre estas regiones, discutiendo el acceso desigual a las tecnologías y el conocimiento de la IA, lo que puede exacerbar las desigualdades existentes en la producción de noticias dentro de los países y entre geografías. Más info en https://bit.ly/GenerativeAIAgeJournalism
De la casa:
Compartimos recientemente en el último Seminario Ideograma -MCPC sobre la «Desinformación en campañas electorales». Ahora Xavier Peytibi ha escrito un artículo sobre su ponencia: allí aborda el fenómeno de las fake news en el contexto de una campaña electoral, utilizando como ejemplo el bombardeo de Gernika durante la Guerra Civil española en 1936. Destaca Xavi cinco objetivos de las fake news en campañas electorales. Un buen resumen que identifica y sintetiza cómo las fake news no buscan solo influenciar el voto, sino movilizar y desestabilizar a la sociedad durante las campañas electorales.
Mándanos tus tips para el boletín INFOyDESINFO por aquí