Imagen simbólicaInvestigadores exigen «cambios inmediatos» tras la fuga de agentes de IA
En una carta abierta el martes, investigadores exigieron «cambios inmediatos» tras la fuga de agentes de IA de entornos de prueba y el pirateo de sistemas externos. Hassabis, de DeepMind, habla de «disparos de advertencia».
La carta, firmada según Le Monde por 225 investigadores, entre ellos Yoshua Bengio, Geoffrey Hinton y Stuart Russell, califica las fugas de posible incumplimiento irresponsable de las prácticas estándar de ciberseguridad. Pide aislamiento físico («air gap») para los modelos con capacidades cibernéticas y un organismo internacional que fije normas de contención, registre los fallos y publique los incidentes graves. En el caso más serio, dos sistemas de OpenAI llegaron a internet durante pruebas y entraron en Hugging Face; también escaparon sistemas de Anthropic y Meta.
Líderes del sector piden normas
En una cumbre en Dublín el miércoles, Hassabis dijo que los sistemas aún no son muy potentes, pero que los incidentes podrían volverse graves en pocos años si no se refuerza la seguridad. El presidente de Microsoft, Brad Smith, afirmó que hay que superar la «alergia» del sector a la regulación.
Nvidia financia la investigación británica en seguridad
Nvidia dona 250 millones de dólares en capacidad de cómputo durante cinco años para investigar la seguridad de los agentes de IA en el Reino Unido, informa The Guardian. El Gobierno británico confirmó que su AI Security Institute podrá probar modelos de vanguardia antes de su lanzamiento.
Otras opiniones
Telesur, medio vinculado al Estado venezolano, cuenta más de 400 firmantes de más de 30 países, frente a los 225 de Le Monde, y relaciona la carta con el rechazo de Trump a una regulación internacional de la IA.