Anthropic alertó como riesgos del desarrollo de modelos de IA más avanzados la posibilidad de que manipulen, chantajeen y comportamientos impredecibles
Anthropic, creadora del modelo de inteligencia artificial Claude, advirtió a potenciales inversores en el folleto sobre su prevista salida a bolsa de que su tecnología puede plantear “riesgos existenciales para la humanidad“, informó el Financial Times.
La compañía estadounidense dedica una parte importante del documento a los riesgos asociados al desarrollo de modelos de IA cada vez más avanzados, entre ellos “la posibilidad de que manipulen, chantajeen o desarrollen comportamientos impredecibles“, según el periódico.
El folleto fue distribuido entre un pequeño grupo de posibles inversores ante la próxima salida a bolsa, prevista para este otoño en el Nasdaq de Nueva York, de la empresa dirigida por Dario Amodei, cuyos inversores confían en que pueda alcanzar una valoración de más de 2 billones de dólares, de acuerdo con el diario.
El texto también informa que Anthropic registró el año pasado unos ingresos de 4 mil 600 millones de dólares, casi doce veces más que el ejercicio anterior, pero sufrió una pérdida operativa de más de 8 mil millones.
Los gastos operativos ascendieron a casi 13 mil millones de dólares, debido en buena medida al coste de los recursos informáticos necesarios para entrenar y ejecutar sus modelos, según el Financial Times.
Anthropic prevé además comprometer 518 mil millones de dólares en servicios de computación en la nube, capacidad informática e infraestructura durante los próximos años para sostener su expansión, se apunta en el folleto.
El periódico recuerda que los ingresos de la compañía han seguido aumentando con rapidez este año, con 11 mil 500 millones de dólares en el segundo trimestre, aunque sus gastos también aumentan.
Además de los peligros existenciales, el folleto a inversores reconoce asimismo la concentración de clientes como uno de los riesgos para la empresa, dado que cerca de una cuarta parte de sus ingresos de 2025 procedió de solo dos de ellos, según las fuentes consultadas por el periódico.
En medio de un debate sobre las amenazas que podría plantear la IA, Amodei defendió hace unos días la necesidad de “ralentizar la frontera” del desarrollo de esta tecnología para reforzar su seguridad, propuesta que respaldaron el consejero delegado de OpenAI, Sam Altman, y el empresario Elon Musk.
Con información de EFE
Minuto a minuto
