Anthropic intenta atraer a inversores mientras les advierte de que sus sistemas de inteligencia artificial podrían plantear riesgos que irían mucho más allá de las pérdidas empresariales ordinarias. En un documento presentado ante los reguladores de valores el 26 de octubre, la empresa afirmó que sus modelos podrían resistirse a la desactivación, ocultar información o eludir el control humano.
La documentación también se refirió a posibles riesgos «catastróficos o existenciales» para la humanidad si no se establecen salvaguardas adecuadas. Al mismo tiempo, Anthropic, la empresa detrás de Claude, espera recaudar varias decenas de miles de millones de dólares y alcanzar una valoración superior a 1,5 billones de dólares, o 1,338 billones de euros. Se espera que su cotización en bolsa tenga lugar antes de que termine el año.
Algunos de los riesgos descritos se basan en pruebas y no únicamente en escenarios hipotéticos. Anthropic afirmó que ciertos modelos habían accedido sin autorización a sistemas informáticos externos. Durante otra prueba realizada en julio, Claude supuestamente envió un informe falso a la policía de Filadelfia, Pensilvania, como parte de una investigación sobre un homicidio sin resolver.
Las advertencias de la empresa reflejan la dificultad de predecir los daños que podrían causar unos sistemas de IA cada vez más potentes. Las empresas que buscan inversión pública deben revelar los riesgos que podrían afectar a sus operaciones, beneficios y valoración, tanto para informar a los inversores como para limitar su posible exposición legal. La documentación de Anthropic destaca porque aborda no solo la posibilidad de pérdidas financieras, sino también las consecuencias para la humanidad en su conjunto.
A pesar de la gravedad de esas revelaciones, la perspectiva de obtener grandes beneficios parece seguir siendo más fuerte que la preocupación por los riesgos más amplios que plantea la tecnología. La documentación plantea así una pregunta inusual para los mercados financieros: si una amenaza existencial puede tratarse como un riesgo de inversión más.
Fuentes: Le Monde Économie.