Dario Amodei contra Adam Smith

Dario Amodei quiere ser Oppenheimer, pero con 'stock options' . No porque pretenda construir una bomba, sino porque empieza a imaginar la inteligencia artificial como Oppenheimer imaginó la física nuclear: una tecnología límite demasiado importante para dejarla al funcionamiento ordinario del mercado y demasiado estratégica para permitir que el adversario llegue primero . La diferencia es que Amodei no quiere Los Álamos. Quiere algo más vulgar: beneficios privados bajo el paraguas de una política de seguridad nacional que determine quién compite, qué puede comprar China y hasta qué punto las compañías estadounidenses pueden coordinarse entre ellas.Su ensayo parte de una preocupación razonable: la IA avanza deprisa y las máquinas empiezan a contribuir al desarrollo de sus sucesoras. Sus capacidades crecen más rápido que nuestra habilidad para comprenderlas y controlarlas . De ahí su propuesta de reducir la velocidad y ganar tiempo para domesticarlas .El problema está en su plan. Anthropic, OpenAI , Google y sus competidores tienen incentivos para correr: si uno frena y los demás no, pierde. Para escapar de ese dilema, Amodei propone que las empresas coordinen estándares de seguridad e incluso límites al ritmo de progreso. Y como esas conversaciones pueden chocar con las normas antimonopolio, pide al Gobierno estadounidense excepciones legales.Adam Smith advirtió hace dos siglos y medio que las personas del mismo oficio rara vez se reúnen sin que la conversación termine en alguna conspiración contra el público . Amodei responde con el viejo argumento de que esta vez es diferente porque la amenaza es existencial. Si existiera un catálogo de los que abusan de la idea de Carl Schmitt de que «soberano es quien decide sobre el estado de excepción» más allá del ámbito del Derecho, los dueños de la IA y los alarmistas climáticos figurarían entre los primeros de la fila . Con todo, su argumento económico no es absurdo. Los beneficios de desarrollar antes un modelo mejor son privados; pero muchos riesgos recaerían sobre la sociedad. Puede existir una externalidad que lleve a las empresas a avanzar más rápido de lo socialmente prudente. Pero de ahí no se sigue que debamos permitir que las propias empresas reguladas decidan conjuntamente cuánto deben competir. La arquitectura política es extraordinaria: reducir la competencia entre empresas estadounidenses, intensificar la competencia con China y, una vez garantizada la superioridad occidental, negociar con Pekín algún límite al desarrollo. Es decir: primero convertir la IA en el principal vector de poder geopolítico y después convencer al adversario de que ambos frenen.Amodei quiere, en definitiva, un Proyecto Manhattan con participaciones de capital . Y ahí aparece la paradoja final: teme que una inteligencia demasiado poderosa escape al control de quienes la construyen, pero su solución es bastante más ambiciosa que una regulación prudencial. Quiere sacar la IA de la lógica del mercado y colocarla en la de la seguridad nacional. Ahí es donde Oppenheimer descubrió que también las instituciones creadas para dominar una tecnología adquieren vida propia.