Ya no impera un silencio normativo en las compañías de inteligencia artificial. Anthropic, la creadora de Claude, ya está adviertiendo a sus inversores que el negocio puede suponer «riesgos existenciales para la humanidad» en el folleto de presentación de su oferta pública inicial (OPI) para su salto al parqué de Nueva York, según ha adelantado este martes el ‘Financial Times’. La ventana para su salida se estima que sea en octubre, sin embargo la compañía no ha comunicado una fecha oficial. El documento manifiesta que existen «factores de riesgo» de la inteligencia artificial, unas inquietudes que crecen con fuerza tras una serie de incidentes con los agentes autónomas de OpenAI, que sortearon unas restricciones provocando brechas de seguridad. Esto ha llevado a la empresa de Sam Altman a suspender el lanzamiento de su modelo Astra 6.1, el más reciente, por problemas de seguridad. La empresa ha contado que entre los peligros está la de exhibir comportamientos impredecibles así como la manipulación o el chantaje. Aunque todos los desarrolladores de IA se han comprometido a priorizar la creación de modelos que cuenten con salvaguardas de seguridad para mitigar riesgos y que, al mismo tiempo, estén alineados con los valores humanos. En ese sentido, Nvidia ya ha anunciado este lunes que creará un sistema para evitar que los programas autónomos se desvíen de las instrucciones recibidas. El folleto ha revelado también que la ‘startup’ registró unas pérdidas operativas superiores a los 8.000 millones de dólares (7.000 millones de euros) durante el pasado ejercicio y obtuvo ingresos por valor de 4.600 millones de dólares (3.500 millones de euros) multiplicando por doce la facturación en un año. La OPI podría valorar a Anthropic en torno a los 2 billones de dólares (1,7 billones de euros), lo que la convertiría en la mayor oferta pública de acciones de la historia.Los recursos necesarios para entrenar y operar sus modelos dispararon los gastos operativos de Anthropic hasta casi los 13.000 millones de dólares (11.500 millones de euros). Sin embargo, tras ingresar 11.500 millones de dólares en el segundo trimestre, la firma va camino de encadenar otro trimestre con beneficios operativos. De cara al futuro, planea invertir hasta 518.000 millones de dólares en infraestructuras y la nube, respaldada por acuerdos de procesamiento ya firmados con Google y SpaceX.
Powered by WPeMatico
Acerca del autor
