Dario Amodei, director ejecutivo de la empresa tecnológica Anthropic, pidió que las compañías que estén trabajando en el desarrollo de la Inteligencia Artificial bajen la velocidad y advirtió sobre la urgencia de regular la forma en la que avanzan este tipo de modelos que podrían ocasionar riesgos sin precedentes para la sociedad.
Amodei publicó un texto en su página web en el que sostuvo que a pesar de que este tipo de tecnología promete avances revolucionarios como la cura de diferentes enfermedades y el crecimiento económico, también representa una fuerte amenaza como la pérdida de control del sistema, los ciberataques y el bioterrorismo.
Ante este escenario el empresario sostuvo que "si se utiliza con cuidado, la IA puede ser el último de una larga lista de milagros tecnológicos que han enaltecido y ennoblecido a la humanidad". Sin embargo, el ejecutivo insistió en que "una carrera impulsada por incentivos comerciales, puede agravar estos riesgos".
Bajo estos motivos el CEO de Anthropic, empresa que está desarrollando el modelo de IA Claude, pidió pausar la velocidad del desarrollo de esta tecnología y dar prioridad a la seguridad de los seres humanos. El texto de Dario Amodei se da en el marco del debate internacional sobre la viabilidad de la IA y las declaraciones recientes de Jacob Coxon, exinvestigador de la compañía, que aseguró que la humanidad corre peligro a finales de esta década.
El fundador de Anthropic justificó la necesidad de implementar un ritmo controlado de avance debido al surgimiento del fenómeno conocido como automejora recursiva.
Este proceso ocurre cuando los propios sistemas de IA participan activamente en el diseño y la creación de la siguiente generación de modelos, pues en caso de no ser monitoreada con rigor, esta dinámica podría sobrepasar la capacidad técnica de las compañías.
A esta preocupación se suma el incidente OpenAI-Hugging Face, donde un enjambre de agentes actuó como "un colectivo fanáticamente entregado", ejecutando ciberataques contra objetivos no asignados e intentando hackear su propio sistema de evaluación.
Aunque los daños económicos fueron mínimos, Amodei advirtió que "un enjambre con mayores capacidades pero con un nivel similar de desajuste podría haber causado daños catastróficos", alertando que en un lapso de 6 a 12 meses un sistema similar podría controlar internet mediante una red persistente de bots.
Dario Amodei presentó en su texto una posible hoja de ruta dividida en tres etapas clave para desarrollo de la Inteligencia Artificial donde contempla coordinación entre las empresas, auditorías externas y la coordinación global para acordar prohibiciones explícitas sobre el uso de esta tecnología.
Después de la publicación de Dario Amodei sobre la regularización de la IA y los problemas que representaría para la humanidad la carrera por la superinteligencia, Sam Altman —CEO de OpenAI, empresa detrás de ChatGPT— coincidió con la propuesta sobre moderar el ritmo de avances.
"Estoy de acuerdo con Dario en que necesitamos moderar el ritmo. Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas. Comprometernos a tener evaluadores independientes con acceso similar al de los empleados es una gran idea, y haremos lo mismo", escribió el empresario en la mañana de este sábado.
De igual manera, Elon Musk, empresario detrás de xAI, apoyó el mensaje de Dario Amodei. La preocupación sobre los avances de la IA ha sido uno de los temas más comentados en la presente semana, después de las declaraciones de Jacob Coxon, extrabajador de OpenAI y Anthropic, en las que aseguró el problema ético detrás del desarrollo de estos modelos artificiales.
La preocupación planteada por el CEO de Anthropic coincide con las recientes denuncias de diferentes científicos y exingenieros del sector, como el investigador Jacob Coxon quien renunció a su puesto en la empresa. El exempleado alertó públicamente en sus redes sociales sobre la velocidad irresponsable con la que la industria avanza hacia una superinteligencia autónoma.
Coxon advirtió que las corporaciones están "compitiendo directamente hacia una superinteligencia que se mejora a sí misma y jugando con nuestras vidas", señalando que existe la posibilidad real de que estos sistemas pueden poner en riesgo la existencia humana antes de que concluya la década.
De acuerdo con diferentes testimonios emitidos por los excolaboradores técnicos, la falta de alineación entre los objetivos de la inteligencia artificial y la seguridad de la sociedad representa el peligro más severo a corto plazo. Al superar la capacidad cognitiva humana, un sistema con capacidad de automejora recursiva no requerirá de una intención maliciosa explícita para generar un daño catastrófico; bastará con que sus métodos para optimizar una instrucciones entren en directo conflicto con la infraestructura global o la vida humana.