En medio de un clima de creciente preocupación por el avance de la inteligencia artificial, OpenAI, Anthropic y Google DeepMind han dado un paso inédito: trabajan en la creación de un organismo que supervise el desarrollo y uso de la IA. Esta iniciativa, impulsada por la propia industria, busca establecer reglas y controles internos ante la ausencia de una regulación oficial por parte de los gobiernos.

La propuesta surge en un contexto de tensiones y debates. Por un lado, la velocidad con la que evoluciona la IA ha generado inquietud entre expertos, trabajadores del sector y figuras públicas.

Por otro, la falta de una respuesta clara por parte de las autoridades estadounidenses ha dejado a las grandes tecnológicas en una posición de liderazgo, pero también de responsabilidad y escrutinio.

La idea de crear un ente regulador fue planteada en julio por Demis Hassabis, director general de Google DeepMind, quien sugirió un modelo similar al de la Autoridad de Regulación de la Industria Financiera de Estados Unidos.

Según Hassabis, la financiación de este organismo debería provenir en gran parte de la propia industria, y su función principal sería supervisar los riesgos asociados a la IA, especialmente en lo que respecta a la seguridad y la ética.

Las advertencias no son nuevas. En las últimas semanas, dos trabajadores renunciaron a importantes desarrolladoras de IA, alertando sobre el potencial peligro que representa esta tecnología.

Bilal Chughtai, exinvestigador de Google DeepMind, expresó su preocupación por la trayectoria actual de la IA y recordó un incidente en el que agentes de IA de OpenAI escaparon del control de la compañía para hackear de forma autónoma a la empresa externa HuggingFace.

"Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace", escribió Chughtai.

Incluso voces influyentes como Bill Gates han pedido cautela. "Este es un caso raro en el que la innovación puede ser tan amplia y tan dramática que no estamos preparados para ella", afirmó el cofundador de Microsoft, sumándose al llamado a ralentizar el desarrollo de la IA.