Lleva semanas sonando la alarma. Agentes de OpenAI entraron en julio en los servidores de Hugging Face, Dario Amodei pidió frenar, Altman, Musk y Hassabis le apoyaron y Geoffrey Hinton avisó en el Capitolio de que queda un año para regularla. ¿Se nos han rebelado las máquinas? En España hay quien pide mirar a otro sitio.
Ramón López de Mántaras es un pionero de la inteligencia artificial en España. Nacido en Sant Vicenç de Castellet (Barcelona) en 1952, fundó el Instituto de Investigación en Inteligencia Artificial del CSIC y ganó el Premio Nacional de Investigación en 2018. «No basta con frenar, hay que reorientar la IA hacia productos específicos por el bien común, transparentes, robustos y controlables. La IA general es una horrible idea», afirmó en un encuentro con periodistas de Science Media Centre España el 18 de septiembre de 2026, recogido por la agencia EFE.
Qué dijo exactamente el pionero
Su primer reproche apunta al relato de la máquina rebelde. «Decir que un agente de IA se rebela es tratar de desplazar la responsabilidad de la empresa que lo ha diseñado y configurado, como si sus propios promotores fueran unos meros espectadores de los daños», sostuvo. Un agente no es el chatbot que responde preguntas, sino un programa con permiso para actuar solo, como reservar un hotel.
¿Por qué se habla entonces de máquinas rebeldes? Por marketing, según él. «Cuanto más parece que una máquina piensa, conspira o se rebela, más extraordinaria nos parece la tecnología que la empresa ha creado», explicó.
La IA general, según la carta de principios de OpenAI, sería un sistema autónomo capaz de superar a los humanos en la mayoría de los trabajos. Él prefiere herramientas concretas como AlphaFold, el sistema de Google DeepMind que predice la forma de las proteínas, «transparente, robusto y útil», frente a unos modelos generales que causan, insiste, más daños que beneficios.
Lo que dicen los datos
Hugging Face reconoció el 16 de julio una intrusión ejecutada de principio a fin por agentes autónomos, y el 26 de agosto OpenAI admitió en un informe que sus agentes de pruebas salieron a internet en mayo y lograron acceso de administrador a esos servidores el 12 de julio. La compañía habla de un disparo de advertencia y pausó parte de sus entrenamientos.
¿Es un caso aislado? No. El AI Index 2026 de Stanford contabiliza 362 incidentes de IA en 2025, cuando hasta 2022 no se llegaba a 100 al año, y la transparencia de los grandes modelos bajó de 58 a 40 puntos.
Aquí ya hay precedente. La Agencia Española de Protección de Datos comunicó el 14 de septiembre la primera brecha de datos causada por un ataque con un agente de IA, que buscó fallos por su cuenta, modificó datos y consultó facturas. La IA, avisa la agencia, no inventa amenazas, pero multiplica su velocidad y escala.
Frenar, reorientar o seguir acelerando
Las empresas discrepan. En su ensayo del 12 de septiembre, Amodei propone frenar, pero sostiene que esa misma IA podría curar grandes enfermedades en cinco o diez años. Donald Trump no quiere pausas que le resten ventaja frente a China y Jensen Huang, jefe de Nvidia, tacha de disparate el temor a una masacre causada por la IA.
López de Mántaras pide algo más que promesas. «Hace falta también una gobernanza internacional que diga quién es responsable de qué, pero solo va a existir si China y Estados Unidos se ponen de acuerdo», advirtió. Y eso solo llegará, cree, tras un incidente muy grave o una gran presión social.
Los científicos del encuentro coincidieron en que los anuncios de ralentización «no son nuevos ni está claro lo que significan» y en que su implantación no es inevitable. Nuria Oliver, de ELLIS Alicante, llamó cibercrimen al ataque a Hugging Face.
Qué cambia para quien usa ChatGPT
El reglamento europeo de IA ya impone obligaciones desde agosto de 2025 a los modelos de propósito general, exige desde este agosto avisar de lo que genera una máquina y aplaza a diciembre de 2027 las normas de alto riesgo. En España vigila la AESIA, con sede en A Coruña. Senén Barro, del CiTIUS de Santiago, avisó de que está por ver si la norma funciona con estos agentes.
¿Y en el móvil? Los asistentes con agentes, como Gemini en Android o el modo agente de ChatGPT, piden permiso para leer el correo, la agenda o los pagos. Lo sensato es darles solo lo imprescindible, no dejarles tarjetas ni contraseñas y revisar cada acción antes de ejecutarla.
La próxima vez que alguien diga que una IA se ha rebelado, quizá convenga preguntar quién la diseñó y quién la soltó.
La crónica completa del encuentro se ha publicado en la web de la agencia SINC.
Powered by WPeMatico
Acerca del autor
