Advierte UNAM que uso IA puede alterar voluntades rumbo a elecciones

Ante campañas digitales en donde se usa la inteligencia artificial para alterar la voluntad de las personas votantes y con esto, modificar "significativamente" resultados, el Programa Universitario de Estudios sobre Democracia, Justicia y Sociedad (PUEDJS) de la UNAM lanzó una serie de recomendaciones dirigidas a autoridades y partidos políticos para el proceso electoral en México que iniciará en unas horas en México.

En el informe "Recomendaciones Electorales 2024. Por plataformas digitales al servicio de la democracia", el PUEDJS advierte que la manipulación electoral ya no se limita a los aspectos físicos, sino que también se da en los espacios digitales transnacionales y sin regulaciones, pudiendo pasar desapercibida, pero con el potencial de alterar "significativamente" los resultados de los procesos político-electorales.

"Hoy la manipulación de la voluntad popular se da mucho antes de la celebración de los comicios. Las campañas digitales de desinformación masiva organizada, la producción sistemática de noticias falsas en plataformas, la alteración de audios o videos con inteligencia artificial".

El programa universitario señala que las estrategias de desinformación, propaganda digital, y manipulación de contenidos han sido utilizadas en elecciones anteriores, evidenciando la necesidad urgente de una regulación que aborde estos desafíos.

"Se destaca que las plataformas digitales, en su papel de empresas mediáticas, han adquirido un poder sin precedentes al influir en la voluntad y emociones de los votantes, operando bajo una regulación privada-transnacional que podría no garantizar la defensa de las personas usuarias.

"Una regulación pública y clara podría ser el avance necesario para garantizar que las plataformas digitales operen en beneficio de la ciudadanía, fortaleciendo así nuestras democracias y protegiendo los derechos digitales de lxs usuarixs".

En este sentido, el Programa Universitario enlistó 11 recomendaciones ante el proceso electoral de nuestro país:

Organizar al menos dos debates ciudadanos en vivo, con participación diversa.

Etiquetar de forma destacada contenido político pagado como "publicidad electoral".

Establecer medidas claras de restricción temporal de contenido electoral.

Publicar informes semanales sobre moderación de contenido y publicidad política.

Adoptar sistemas de alerta temprana y etiquetación de mensajes.

Regulación del uso de inteligencia artificial para contenido político y electoral, con etiquetado claro adoptando sistemas de detección y etiquetado.

Implementar calendario de auditorías externas. Supervisar retiro de propaganda durante veda electoral.

Implementar medidas efectivas para retirar propaganda, además de restringir publicación de resultados preliminares durante veda

Campaña de concienciación sobre desinformación electoral en formatos accesibles. Exigir acceso a APIs para instituciones y sociedad civil.

Promover igualdad de oportunidades en promoción de plataformas. Diseñar cuentas específicas para difusión de plataformas electorales. Fomentar participación ciudadana en plataformas digitales a través de formatos accesibles.

Establecer convenios con obligaciones concretas. Capacitación, monitoreo y promoción de debates y contenido oficial.