Deepfakes: Desinformación Tecnológica

Quisiera pensar que la construcción de una agenda política de avanzada requiere abordar problemas sociales novedosos. No solo para quienes hoy detentan un cargo público, sino también para quienes aspiran a ocupar, mañana, una posición de representación popular. Aquí un problema grave: la desinformación tecnológica. 

En la era digital, la manipulación de la información se ha convertido en una amenaza cada vez más sofisticada para la seguridad de las actividades cotidianas y para democracia. Entre las preocupaciones más recientes y alarmantes se encuentran los deepfakes, tecnología que utiliza la inteligencia artificial para crear videos y audio falsos que parecen auténticos -tenemos historias recientes u cercanas sobre eso-.  Aunque la creación de deepfakes puede tener aplicaciones divertidas y creativas, su potencial para socavar la democracia y fomentar la desinformación es motivo de gran preocupación.

Los deepfakes han experimentado un rápido avance tecnológico en los últimos años. Esta tecnología permite a los usuarios manipular fácilmente videos y grabaciones de audio de manera que resulta extremadamente difícil distinguir la realidad de la ficción. Las caras de políticos, celebridades e individuos comunes pueden ser reemplazadas digitalmente por otras, mientras que el audio puede ser alterado para que diga cosas que nunca fueron pronunciadas. 

Uno de los mayores riesgos que los deepfakes plantean a la democracia es la difusión de desinformación política. Los deepfakes pueden utilizarse para crear declaraciones falsas de políticos o líderes, lo que podría influir en la opinión pública y en los procesos electorales, partiendo de la base de que, como lo hemos señalado previamente en este espacio. Existe una gran cantidad de personas que consumen información sobre política y asuntos públicos por medios digitales, pero carecen de herramientas o hábitos para distinguir lo que es real de lo que no. 

¿Recuerda el episodio de Cambridge Analytica y la elección de Donald Trump?. La combinación de deepfakes y la proliferación rápida de noticias falsas, puede provocar manipulación de la opinión pública al crear contenido que incite a la división y al odio. Esto puede socavar la estabilidad política y la celebración de elecciones pacíficas.

Frente a esta amenaza, es fundamental avanzar en la definición de una política de educación cívica en donde las autoridades, las plataformas tecnológicas y la sociedad en su conjunto tomen medidas proactivas para abordar el problema de los deepfakes. 

Ahora que se avecina el tiempo en el que florecen intenciones de personas que quieren convertirse en legisladoras(es), convendría abrir una agenda de discusión y legislación sobre la promulgación de leyes que aborden la creación y difusión maliciosa de deepfakes y establezcan consecuencias legales claras para quienes los utilicen con fines dañinos. Del lado de las plataformas tecnológicas, ya se realizan algunos esfuerzos para desarrollar sistemas de detección de deepfakes más avanzados y accesibles para identificar y etiquetar contenido falso.

Desde la ciudadanía, la comprensión de la existencia y el peligro de los deepfakes es esencial. La conciencia pública resulta crucial para que las personas a ser más críticas y escépticas ante el contenido digital.

Los deepfakes representan un desafío significativo para las instituciones y la democracia en la era digital. La capacidad de manipular videos y audio de manera convincente plantea riesgos graves para la desinformación política y la confianza pública. Es imperativo que la sociedad, los gobiernos y las empresas tecnológicas colaboren en la búsqueda de soluciones efectivas para mitigar estos riesgos y proteger la integridad de la democracia en un mundo cada vez más digital.

X, antes twitter. @marcoivanvargas