Impacto de las llamadas automatizadas con IA en la política

CONCORD, Nueva Hampshire, EE.UU. (AP) — Un consultor político que organizó llamadas automatizadas generadas por inteligencia artificial con una voz que imitaba la del presidente Joe Biden antes de las primarias presidenciales de Nueva Hampshire enfrenta una multa de 6 millones de dólares y más de dos docenas de cargos penales.

La Comisión Federal de Comunicaciones (FCC por sus siglas en inglés) informó que la multa que propuso el jueves para Steven Kramer es la primera que se impone en relación con la tecnología de IA generativa. La empresa acusada de transmitir las llamadas, Lingo Telecom, enfrenta una multa de 2 millones de dólares, aunque en ambos casos las partes podrían llegar a un acuerdo o seguir negociando, dijo la FCC.

Kramer ha admitido haber orquestado un mensaje que se envió a miles de votantes dos días antes de las primarias del 23 de enero. El mensaje reproducía una voz generada por IA similar a la del presidente demócrata que utilizaba su característica frase "qué sarta de tonterías" e insinuaba falsamente que votar en las primarias impediría al electorado emitir su voto en noviembre.

Kramer enfrenta 13 cargos de delito grave por violar una ley de Nueva Hampshire que prohíbe intentar disuadir a alguien de votar utilizando información engañosa. También enfrenta 13 cargos por delitos menores que le acusan de presentarse falsamente como candidato por su propia conducta o la de otra persona. Los cargos se presentaron en cuatro condados y serán tramitados por la fiscalía general del estado.

El fiscal general John Formella dijo que Nueva Hampshire se compromete a garantizar que sus elecciones "permanezcan libres de interferencias ilegales".

"Me complace ver que nuestros socios federales están igualmente comprometidos con la protección de los consumidores y los votantes contra las llamadas automatizadas dañinas y la supresión de votantes", dijo Formella, que fue nombrado por el gobernador republicano Chris Sununu.

Lingo Telecom manifestó su firme desacuerdo con la medida de la FCC, que calificó de intento de imponer nuevas normas con carácter retroactivo.

"Lingo Telecom se toma muy en serio sus obligaciones reglamentarias y ha cooperado plenamente con los organismos federales y estatales para ayudar a identificar a los responsables de originar la campaña de llamadas automatizadas de Nueva Hampshire", declaró la empresa. "Lingo Telecom no estuvo involucrada en absoluto en la producción de estas llamadas y las acciones que tomó cumplieron con todas las regulaciones federales aplicables y las normas de la industria".

Las llamadas de Nueva Hampshire aparecían falsamente a los destinatarios como procedentes del teléfono personal de Kathy Sullivan, expresidenta del Partido Demócrata del estado que ayudó a dirigir la campaña de Biden como candidato por escrito. En un correo electrónico enviado el jueves, Sullivan dijo que espera que Kramer aprenda que "intentar amañar unas elecciones tiene un precio muy alto".

"Esperamos que la acción rápida y decisiva del Departamento de Justicia de Nueva Hampshire y de la FCC disuada a otros sujetos que actúan de mala fe o de manera estúpida y que no respetan la democracia", afirmó.

Kramer, propietario de una empresa especializada en proyectos de captación del voto, no respondió el jueves a un correo electrónico en el que se le pedían comentarios. Dijo a The Associated Press en febrero que no estaba tratando de influir en el resultado de las elecciones, sino que quería lanzar una advertencia sobre los peligros potenciales de la inteligencia artificial cuando pagó 150 dólares a un mago de Nueva Orleans para crear la grabación.

"Puede que hoy sea un granuja, pero creo que al final tenemos un país mejor y una democracia mejor gracias a lo que he hecho, deliberadamente", dijo Kramer en febrero.

La supresión de votantes conlleva una pena de 3 años y medio a 7 años de cárcel. Hacerse pasar por un candidato se castiga con hasta un año de cárcel.

En una entrevista, días después de ser identificado públicamente como la fuente de las llamadas, Kramer dijo que no estaba de acuerdo con que su llamada automatizada inhibiera la participación electoral, señalando que Biden ganó las primarias demócratas por un amplio margen como candidato por escrito. Kramer dijo que, aunque había trabajado para otro antiguo aspirante demócrata a la presidencia, el representante Dean Phillips, de Minnesota, había actuado solo.

"Fui luchador en la universidad. Estoy preparado para la lucha", dijo Kramer, que tiene programada una comparecencia ante el tribunal el 5 de junio. "Si quieren meterme en la cárcel, buena suerte".

Desde las llamadas automatizadas de Nueva Hampshire, la FCC ha tomado medidas para combatir el creciente uso de herramientas de inteligencia artificial en las comunicaciones políticas. En febrero, confirmó que las herramientas de clonación de voz mediante IA en las llamadas automatizadas están prohibidas por la legislación vigente, y el miércoles presentó una propuesta para exigir a los anunciantes políticos que revelen cuando utilicen contenidos generados por inteligencia artificial en los anuncios de radio y televisión.

Si se aprueban, las nuevas normas añadirán una capa de transparencia que muchos legisladores y expertos en IA han estado pidiendo, ya que las herramientas de IA generativa producen imágenes, videos y clips de audio realistas que pueden engañar a los votantes en las próximas elecciones de Estados Unidos.

La presidenta de la FCC, Jessica Rosenworcel, afirmó el jueves que los reguladores se comprometen a ayudar a los estados a perseguir a los perpetradores. En un comunicado, calificó de "desconcertantes" las llamadas automatizadas de Nueva Hampshire.

"Porque cuando una persona que llama suena como un político que conoces, una celebridad que te gusta o un familiar que te resulta familiar, cualquiera de nosotros podría ser engañado para creer algo que no es cierto con llamadas que utilizan tecnología de IA", dijo en un comunicado. "Es exactamente como los sujetos que actúan de mala fe que están detrás de estas llamadas falsas con voces manipuladas quieren que reacciones".