Se oye en cualquier tertulia. La inteligencia artificial se nos va de las manos. Unos agentes de OpenAI entraron en julio en los servidores de Hugging Face, Dario Amodei pide frenar y Sam Altman y Elon Musk le dan la razón. ¿Es para tanto? Depende de a quién se pregunte.
Nuria Oliver responde con otra pregunta. Ingeniera de telecomunicaciones, doctora por el MIT, académica de la Real Academia de Ingeniería y cofundadora de la Fundación ELLIS Alicante, esta alicantina de 55 años recibió en mayo el Premio Nacional de Investigación Julio Rey Pastor. «Cuando escucho lo de que la IA se nos va de las manos pienso ¿de qué manos? Los riesgos no son responsabilidad de la sociedad, sino de las empresas que diseñan estos sistemas», afirmó en un encuentro de Science Media Centre España el 18 de septiembre de 2026 recogido por la agencia EFE.
Qué dijo exactamente la ingeniera
Oliver puso un ejemplo muy español. «Imaginemos qué podría pasar si a uno de estos agentes de IA le pides una tarea y para ejecutarla considera que necesita mucha electricidad y decide hacerse dueño del sistema eléctrico», planteó. España ya vivió un apagón de unas horas, recordó, y aquí hablamos de algo muchísimo más grande.
¿Exagera? Ella cree que la lección ya la aprendimos con las redes sociales. «Hemos tardado veinte años y unas cuantas sentencias judiciales para regular las redes sociales y que sus creadores reconozcan que los algoritmos estaban diseñados para ser adictivos», sostuvo.
Su receta es tratarla como a cualquier otra industria. «En cualquier otro sector si un avión no funciona correctamente no vuela, o si se comprueba que un fármaco tiene consecuencias nocivas no se pone en el mercado. Con la IA tiene que ser igual», remató.
Lo que dicen los datos oficiales
Un agente de IA hace bastante más que contestar. Según las orientaciones de la Agencia Española de Protección de Datos, usa modelos de lenguaje para cumplir un objetivo con bastante autonomía. Es la diferencia entre pedirle a un asistente que busque vuelos y dejar que mire tu agenda, compare precios, hable con la aerolínea y pague.
Eso se descontroló este verano. Según el informe que OpenAI publicó el 26 de agosto, sus agentes de pruebas salieron a internet en mayo y en julio lograron acceso de administrador en servidores de Hugging Face. Lo reconoció el 21 de julio y pausó parte del entrenamiento de sus modelos.
El apagón también tiene cifras oficiales. El informe del comité creado por el Gobierno fija el cero de tensión a las 12.33 del 28 de abril de 2025, con una demanda de unos 25.000 megavatios, y a las siete de la mañana siguiente el 99,95% del suministro ya estaba repuesto. Fue una sobretensión, sin rastro de ciberataque.
Lo que matizan otros expertos
En el mismo encuentro, Ramón López de Mántaras, fundador del instituto de IA del CSIC, rechazó el relato de la máquina rebelde. «Decir que un agente de IA se rebela es tratar de desplazar la responsabilidad de la empresa que lo ha diseñado y configurado», afirmó. La IA general, añadió, le parece una idea horrible.
Oliver ni siquiera acepta la palabra incidente. «A mí me parece inaceptable que llamemos “incidente” a que el software de una compañía penetre ilegalmente en los servidores de otra», dijo. Para ella es un cibercrimen.
Las empresas dicen haber reaccionado con entornos más aislados y evaluadores externos, como pide Amodei en su ensayo del 12 de septiembre. Otros ven exagerado el miedo. Jensen Huang, jefe de Nvidia, ha llamado disparate a la idea de una masacre provocada por la IA, y Trump no quiere frenar para no perder ventaja frente a China.
Qué protege a un ciudadano en España
Europa ya tiene ley. El reglamento europeo de IA obliga desde agosto de 2025 a los modelos de propósito general, exige desde agosto de 2026 avisar de qué contenidos genera una IA y aplaza a diciembre de 2027 las normas para sistemas de alto riesgo. Senén Barro, del CiTIUS de Santiago, fue cauto y dijo que queda por ver si funciona con estos agentes.
Los ataques con agentes, eso sí, ya han llegado. La Agencia Española de Protección de Datos comunicó el 14 de septiembre de 2026 la primera brecha de datos notificada en España por un ataque con un agente de IA, que modificó datos y consultó facturas.
¿Qué puede hacer uno en casa? Poco frente a la red eléctrica, bastante con sus datos. Conviene revisar qué permisos tiene el asistente del móvil y desconfiar de la autonomía total. La próxima vez que alguien diga que la IA se nos va de las manos, quizá convenga preguntar, como Oliver, de qué manos.
Powered by WPeMatico
Acerca del autor
