Dario Amodei, consejero delegado de Anthropic, ha lanzado una advertencia contundente sobre el futuro de la inteligencia artificial: algunos modelos de IA serán tan peligrosos que deberían requerir licencia de armas para su uso. La declaración, recogida en una entrevista con Bloomberg y adelantada por xataka.com, refleja la posición cada vez más vigilante de esta empresa en materia de seguridad tecnológica, justo cuando ambas grandes potencias de la IA —Anthropic y OpenAI— se preparan para cotizar en bolsa con valoraciones estratosféricas.

El modelo que Anthropic decidió no publicar

Amodei ha revelado que su empresa retuvo deliberadamente Mythos, un modelo de IA especializado en ciberseguridad, porque posee capacidades que van más allá de lo que considera seguro para el mercado general. Este sistema es capaz de ejecutar de forma autónoma todo el proceso de un ataque informático, identificando vulnerabilidades explotables sin intervención humana.

Las empresas que probaron Mythos en fase temprana fueron explícitas en sus peticiones: le pidieron directamente a Amodei que no lo publicara. "Mythos es un arma total. Deberías necesitar una licencia de armas para usarlo", reconoce el ejecutivo. A pesar de las implicaciones comerciales negativas de esta decisión, Amodei sostiene que publicarlo antes de que la mayoría de infraestructuras estén parcheadas sería exponencialmente más peligroso.

El dilema entre valores y relevancia empresarial

En la misma entrevista, Amodei reflexiona sobre un conflicto fundamental que enfrenta cualquier empresa tecnológica de envergadura: la tensión entre mantener principios éticos y seguir siendo competitiva. Cuando se le preguntó por qué Anthropic apuesta por herramientas empresariales como Claude Code en lugar de perseguir aplicaciones de consumo masivo más lucrativas, fue tajante: "O traicionas tus valores o te vuelves irrelevante".

Según su análisis, elegir un modelo de negocio que contradice los principios fundacionales de una compañía acaba generando esa disyuntiva de forma inevitable. Anthropic ha optado por el camino más exigente.

La amenaza silenciosa al empleo de oficina

Más allá de cuestiones técnicas, Amodei lleva más de un año advirtiendo sobre un escenario económico inquietante: la posibilidad de que convivan un crecimiento del PIB disparado con un desempleo muy elevado, particularmente en empleos de oficina de nivel inicial. Su previsión es alarmante: la IA podría eliminar la mitad de estos puestos en un plazo de uno a cinco años.

Ha recibido críticas desde ambos flancos. Jensen Huang, consejero delegado de Nvidia, le acusa de confundir tareas con empleos. Otros señalan un presunto "marketing del apocalipsis" que beneficiaría comercialmente a Anthropic. Amodei responde enfatizando que su mensaje nunca ha sido puramente catastrofista, sino una llamada a la acción política: propone impuestos sobre el uso de tokens y rediseño conjunto de plantillas con las empresas.

El mecanismo que describe es simple pero preocupante: cuando se automatiza el 90% de una tarea, el 10% restante se vuelve mucho más productivo. El peligro emerge cuando esa automatización se aproxima al 100% y ya no hay nada en qué aferrarse. Dentro de Anthropic ya experimentan esta transición; la IA escribe la práctica totalidad del código, aunque de momento sigue siendo un multiplicador de productividad en lugar de un sustituto.

El contexto de la carrera por el oro de la IA

Estas declaraciones llegan en un momento en que Anthropic y OpenAI cotizan a valoraciones estratosféricas —alrededor de 965.000 millones y un billón de dólares respectivamente—, preparándose para salidas a bolsa que marcarían un hito histórico. En ese contexto, la insistencia de Amodei en frenar capacidades peligrosas resulta aún más significativa, pues supone un coste económico real en favor de la precaución.

La pregunta que queda flotando es si otras empresas de IA seguirán su ejemplo o si la presión por competir terminará erosionando estas barreras éticas.