ONU debate supervisión de inteligencia artificial ante riesgos globales

NACIONES UNIDAS (AP) — Son los robots asesinos contra la superinteligencia.

Visiones del futuro sacadas directamente de los cómics se están desarrollando en las Naciones Unidas mientras los líderes mundiales hablan sobre la amenaza —o la promesa— de la inteligencia artificial.

Armado con un nuevo informe científico de la ONU que advierte de un potencial daño catastrófico e irreversible, el secretario general de la ONU, António Guterres, inauguró el desfile de líderes mundiales que intervienen ante la Asamblea General pidiendo una mayor supervisión de la IA y advirtiendo sobre lo que podría salir mal.

ONU debate supervisión inteligencia artificial

¡Sigue nuestro canal de WhatsApp para más noticias! Únete aquí

"Resolvamos que las decisiones de vida o muerte nunca deben entregarse a las máquinas. Los robots asesinos no deben tener lugar en nuestro futuro", manifestó Guterres. También advirtió sobre la IA en su primer discurso ante la Asamblea General hace una década.

El Consejo de Seguridad de la ONU tiene previsto abordar el miércoles cómo imponer algún tipo de controles a la tecnología, y contará con algunos de los nombres más importantes del sector.

Trump rechaza control global y redefine IA

Trump dice que es "súper", no artificial

Menos de una hora después, el presidente estadounidense Donald Trump no quiso saber nada de eso. "Estados Unidos también rechaza totalmente cualquier intento de construir un esquema globalista para controlar la inteligencia artificial de la que tanto se habla. Ahora, aquí y en adelante se llamará oficialmente superinteligencia", declaró.

Los líderes mundiales que hablaron después de Trump usaron "inteligencia artificial", no "súper".

"Cada gran tecnología nueva trae desafíos, y la superinteligencia no es la excepción", manifestó Trump. "Sin embargo, las mismas personas que dijeron que todos estaríamos muertos en 12 años por el calentamiento global, un nombre que luego renació como cambio climático, porque el planeta se estaba enfriando, no calentando, y nadie estaba muerto. Estas son las mismas personas que ahora dicen que la IA nos va a matar a todos, que los robots nos van a atacar y que todo va a ser un desastre total".

Trump se refería a un informe de la ONU de 2018 que describía el peligro del cambio climático causado por el ser humano cuando se superara el umbral acordado internacionalmente de 1,5 grados Celsius (2,7 grados Fahrenheit) de calentamiento respecto a la era preindustrial, y decía que faltaban 12 años.

Los estudios ahora señalan que cruzar ese umbral es inminente en los próximos años. Ese informe —y otros documentos científicos— no decía que todos moriríamos. Indicaba que el clima extremo se volvería más peligroso y que reducir la contaminación podría evitar 100 millones de muertes prematuras durante los próximos 82 años.

Además, el mundo no se ha enfriado, sino que se ha calentado 0,45 grados Celsius (0,8 grados Fahrenheit) en los últimos 12 años, según la Oficina Nacional de Administración Oceánica y Atmosférica de Estados Unidos (NOAA, por sus siglas en inglés).

Vayan despacio, pero cooperen, dicen otros

El problema es que tanto Trump como Guterres reducen el asunto a algo que no resulta útil, afirma Henry Hoffmann, presidente del departamento de ciencias de la computación de la Universidad de Chicago.

"Uno lo convierte en una película de ciencia ficción; el otro le resta importancia", escribió Hoffmann en un correo electrónico. "Ambos empujan a la gente a elegir un bando en lugar de involucrarse con los riesgos reales y las posibles mitigaciones. No debería haber ´lados´ sobre si necesitamos un control adecuado de sistemas autónomos poderosos. El debate interesante es qué mecanismos proporcionan realmente ese control".

Otras naciones quieren asegurarse de no quedarse atrás durante una carrera de IA entre Estados Unidos y China. El presidente francés Emmanuel Macron y Guterres también plantearon el tema como una cuestión de proteger a los niños.

"No esperemos a que las consecuencias caigan como una lluvia sobre la IA", manifestó Macron. "Debemos actuar ahora para proteger a nuestros niños y a nuestros jóvenes".

El presidente de Finlandia, Alexander Stubb, al igual que otros líderes, dijo que la IA cambiará el mundo, potencialmente para bien, pero que necesita controles firmes.

"La inteligencia artificial es la tecnología más trascendental en la historia de la humanidad. Impactará la ciencia, la economía, la política, la seguridad y la esencia misma de nuestra humanidad", señaló Stubb. "Los seres humanos pueden y deben estar al volante. Tenemos una elección. Podemos competir, cooperar o ir más despacio. Para mí, la cooperación es el mejor camino a seguir".

El primer ministro británico Andy Burnham dijo en una reunión de líderes empresariales al margen de la Asamblea General de la ONU que quiere ver "un único conjunto de principios y estándares globales" que pueda liberar el potencial de la IA mientras mitiga sus riesgos.

Añadió que forjar una "IA para el bien" será el principal foco de la presidencia del Reino Unido del Grupo de los 20 el próximo año.

La reunión del Consejo de Seguridad sobre IA del miércoles incluirá a algunos de los nombres más importantes en IA, incluidos quienes recientemente han dado la voz de alarma sobre la necesidad de establecer medidas de control. Sam Altman, director general de OpenAI, participará, seguido por Dario Amodei, director general de Anthropic, y finalmente Clément Delangue, director general y cofundador de Hugging Face, que fue hackeada por un programa descontrolado de OpenAI.