La inteligencia artificial “podría acabar con todas las personas para finales de la década”, afirmó Jacob Coxon, un investigador de IA que trabajó para Anthropic y OpenAI y observó una ‘carrera’ por el desarrollo que podría “apostar” con la vida de la gente.

Tras renunciar a Anthropic, alertó que “ninguna de las dos compañías actúa de manera responsable”, y corren directamente hacia una “superinteligencia auto-mejorante” que tendría afectaciones para la humanidad.

Jacob Coxon llamó a no subestimar la tecnología que actualmente desarrollan Anthropic y OpenAI, ya que “pronto se convertirá en sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”.

El investigador aseguró que él y sus compañeros son testigos del progreso de esa tecnología, y sus desarrolladores creen que, “sinceramente”, esta tecnología “podría acabar con todos nosotros para finales de la década”.

Ejecutivos e investigadores de alto rango suavizan sus declaraciones a la prensa; sin embargo, ellos mismos tienen temor, de acuerdo con el extrabajador de Anthropic y OpenAI.

En OpenAI, “muchos no han interiorizado profundamente lo que está en juego”.

Mientras, en Anthropic son más conscientes sobre la situación; sin embargo, “están inmersos en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos a pesar del riesgo”.

El ciberataque por agentes de IA a Hugging Face fue solo una advertencia de los riesgos que representa la tecnología sin regulación, e incluso provocó que los acuerdos sobre el ritmo de desarrollo entre laboratorios estadounidenses sea más viables.

Aunque Jacob Coxon declaró que no se puede evitar una carrera global por la IA, es optimista sobre el potencial de la coordinación, aunque implique acciones costosas como una prohibición temporal para mejorar las capacidades de modelos que representen un riesgo.

Evan Hubinger, líder de ciencia y alíneación de Anthropic, reconoció que Jacob Coxon tiene razón, y que “realmente creemos con sinceridad que la IA podría matar a todos los humanos”.

Aunque explicó que, desde su punto de vista, Anthropic “está haciendo lo mejor que puede”, no tiene un plan para resolver el alineamiento de la superinteligencia y no están en camino de lograrlo.