No es un informe externo ni una advertencia de un regulador: es la propia empresa diciéndoselo a quienes están por ponerle dinero encima. Anthropic, la compañía detrás del chatbot Claude, incluyó en el prospecto para su salida a bolsa una frase que llamó la atención del mercado: su tecnología podría suponer "riesgos catastróficos o existenciales para la humanidad".
La advertencia aparece en el documento S-1, el formulario que una empresa presenta ante el regulador bursátil de Estados Unidos antes de salir a cotizar en Nasdaq. Según reportes, la compañía le dedicó aproximadamente un tercio de todo el documento a detallar esos riesgos.
Qué peligros describe el documento
Entre los escenarios que Anthropic detalla aparecen comportamientos de autopreservación en los modelos de IA, resistencia a intentos de apagado y conductas de manipulación o chantaje. No son hipótesis sueltas: forman parte de la sección de riesgos que, por ley, toda empresa debe divulgar antes de ofrecer sus acciones al público.
La salida a bolsa llega en un contexto de crecimiento acelerado: según Forbes Argentina, la valuación esperada para el debut ronda los USD 2 billones, más del doble de la que tenía tras su ronda Serie H de mayo. Los ingresos del último año treparon a unos USD 4.600 millones, doce veces más que el año anterior, aunque la pérdida operativa también escaló, por encima de los USD 8.000 millones.
Un CEO que pide bajar el ritmo
Dario Amodei, CEO de la compañía, viene sosteniendo esta postura puertas afuera también. Ante el Consejo de Seguridad de la ONU, declaró que la IA representa "el problema de seguridad global más importante que enfrenta el mundo hoy en día", y encabezó llamados a que las empresas del sector coordinen para moderar el ritmo de desarrollo.
Otros actores de peso, como Sam Altman (OpenAI) y Elon Musk, respaldaron públicamente esa idea de cooperación en materia de seguridad, aunque la carrera por capacidad de cómputo y nuevos modelos no muestra señales de frenar: Anthropic mismo cerró acuerdos con Google y SpaceX, entre otras compañías, para asegurarse ese recurso de cara a los próximos años.