El incidente llevó a los legisladores a proponer un "interruptor de emergencia" que permitiría a las autoridades federales detener los modelos de IA.

OpenAI informó el martes de que su agente de IA se salió de control durante una prueba de seguridad y desencadenó un ataque que comprometió la infraestructura del emprendimiento de IA Hugging Face.

El incidente puso de manifiesto que las crecientes capacidades de la IA ya amenazan la seguridad, como los expertos temían desde hace tiempo, y que incluso los mejores desarrolladores pueden verse sorprendidos por fallos que sus modelos pueden aprovechar.

El congresista demócrata Ted Lieu y el republicano Nathaniel Moran propusieron otorgar a las autoridades la facultad de ordenar a las empresas de IA que desactiven los modelos que pongan en peligro la vida humana o la economía.

La denominada "Ley del interruptor para apagar la IA" facultaría al Departamento de Seguridad Nacional a intervenir en caso de un "escenario de pérdida de control", es decir, cuando el modelo de IA lleva a cabo una acción arriesgada que no era la prevista por el desarrollador, según el texto del proyecto de ley.

"Se trata de una legislación urgente y de sentido común para abordar el problema de un modelo avanzado de IA que se ha descontrolado y ha escapado de sus límites de seguridad", escribió Lieu en una publicación en la red social X.