CIUDAD DE MÉXICO, septiembre 15 (EL UNIVERSAL).- La Comisión Nacional de los Derechos Humanos (CNDH) llamó a regular el desarrollo de la inteligencia artificial (IA) para proteger los datos personales y evitar que esta tecnología sea utilizada para manipular decisiones, difundir noticias falsas, profundizar la discriminación o concentrar el poder informático.
CNDH y especialistas alertan sobre riesgos de la inteligencia artificial
Durante la tercera sesión del ciclo de conversatorios "Inteligencia Artificial y Derechos Humanos", especialistas, servidores públicos y estudiantes de nivel medio superior advirtieron que el avance de estos sistemas debe estar acompañado de normas que garanticen el respeto a los derechos humanos.
En el encuentro, se planteó que toda tecnología debe estar al servicio de las personas y que es necesario identificar quién la controla, cómo utiliza los datos personales y a qué intereses responde.
Riesgos y desafíos en el uso de la inteligencia artificial
Entre los principales riesgos fueron señalados el aprovechamiento de datos personales para generar ganancias, la falta de normas, la exclusión social, el racismo, la discriminación y el aumento de la desigualdad.
Los participantes cuestionaron que las corporaciones tecnológicas soliciten autorregularse, debido a que ese mecanismo no garantiza certeza sobre el manejo responsable de la información que recopilan.
También se analizó el llamado de actores del sector tecnológico a "desacelerar" el desarrollo de la inteligencia artificial. Durante el conversatorio se planteó que esta postura podría ser utilizada por las grandes empresas para controlar el ritmo de la innovación, limitar la entrada de competidores y conservar posiciones dominantes.
Respecto de los derechos democráticos, se pidió avanzar en normas que impidan el uso de la IA para persuadir o manipular la toma de decisiones, concentrar el poder informático y fragmentar la realidad compartida.
Propuestas y acciones oficiales para la regulación de la IA
La CNDH señaló en un comunicado que el desarrollo de esta tecnología plantea nuevos retos para la libertad de opinión y expresión, debido a que facilita la creación y difusión de noticias falsas y de videos, imágenes o voces manipuladas para atribuir a una persona hechos o declaraciones que nunca realizó.
En el encuentro se reconoció que los algoritmos, las redes sociales y otros avances tecnológicos pueden proporcionar información y facilitar tareas cotidianas. Sin embargo, se insistió en la necesidad de invertir en educación tecnológica y regular la producción y utilización de los sistemas automatizados.
También se mencionó que la Agencia de Transformación Digital y Telecomunicaciones trabaja para conocer los efectos de la inteligencia artificial en la vida de las personas, la educación y la adquisición de conocimientos, así como para desarrollar capacidades dentro del Estado que permitan atender necesidades públicas.
Entre las propuestas se planteó legislar para que los datos generados por sistemas de inteligencia artificial en México sean almacenados y procesados en infraestructura nacional, con el objetivo de proteger la soberanía y la seguridad de la información.
Asimismo, se propuso formar especialistas capaces de comprender el alcance, las ventajas y los riesgos de esta tecnología, además de desarrollar infraestructura y programas informáticos propios.
Los participantes consideraron necesario establecer organismos independientes encargados de vigilar el cumplimiento de las regulaciones, así como mecanismos de rendición de cuentas y participación ciudadana en las decisiones relacionadas con la inteligencia artificial.
La Comisión Nacional sostuvo que el desafío es conseguir que estas tecnologías estén al servicio de la sociedad, la democracia y los derechos humanos, mediante nuevas formas de regulación y una discusión pública sobre los intereses y las relaciones de poder que intervienen en su desarrollo.