Hay motivos para preocuparse. Primero, porque Trump dice que no hay que preocuparse. Segundo, porque ya han ocurrido incidentes graves, como el ataque autónomo contra la compañía Hugging Face, en la que no participó ningún ser humano. Y tercero, por la velocidad que ha adquirido la “automejora recursiva”, es decir, la capacidad de la IA de crear por su cuenta la siguiente generación de IA sin intervención humana. El riesgo: dejar de comprender y controlar los nuevos sistemas.
En un extenso documento publicado estos días, el director ejecutivo de Anthropic, Dario Amodei, ha reclamado frenar el avance de la IA para ganar tiempo y garantizar que se desarrolle de una forma segura. Para lograrlo, articula tres propuestas. Merece detenerse en el texto. En primer lugar, propone que las empresas punteras de IA incorporen auditores externos a sus compañías, de manera que verifiquen que están desarrollando sistemas seguros. En segundo lugar, reclama una “coordinación democrática” entre las empresas de países democráticos. Y en tercero, demanda una coordinación con “gobiernos autoritarios”. Es decir, China.
El golpe de efecto llega cuando dice que Anthropic incorporará unilateralmente auditores externos, aunque deja claro que “controlar el ritmo no significa detener el entrenamiento de los modelos ni el progreso técnico”.
El movimiento es inteligente. No cabe duda de que Amodei conoce la obra de Thomas Schelling, original economista que rompió las costuras de la disciplina y ganó el Premio Nobel en 2005 sin apenas escribir un número. “Si el trabajo de Tom tiene un hilo conductor, es la contraintuición”, dice su pupilo Michael Spence. Una de esas singulares ideas asoma en el anuncio de Amodei: reducir tu margen de acción puede reforzar tu posición. Se le llama estrategia del compromiso y Anthropic la aplica al anunciar la incorporación de verificadores, una medida que establece un estándar que atrae al resto de competidores. ¿Servirán de algo? Es difícil saberlo.
Schelling desarrolló sus teorías en el marco de la guerra fría, un contexto cuyo eco resuena con fuerza en el debate sobre el desarrollo de la IA. El prisionero en su dilema, de nuevo. Yo quiero frenar, sé que debo hacerlo, pero pienso que mi competidor no va a seguir el mismo camino, por lo que acelero. La desconfianza mutua –no cooperar– nos lleva a todos a escenarios peores.
Pero ahora hay un problema añadido, y es que en el caso del bloque que Amodei califica de “democrático”, no hay control público sobre las empresas de IA. Son operadores privados que responden a sus intereses y a los de sus inversores, mientras quien debería atarlos en corto –el gobierno estadunidense– renuncia a hacerlo porque considera que los peligros de la IA no son más que bulos y porque, en realidad, no quiere que China se les adelante. “Nada más importaría” si Pekín toma la delantera en la carrera por la IA, ha dicho Scott Bessent, secretario del Tesoro.
La carrera hacia el abismo, por tanto, es doble en esta ocasión, porque, por un lado, las empresas punteras estadunidenses compiten entre sí, y por otro, EU como ecosistema compite con China.
Cuando habla del gigante asiático, Amodei invoca de nuevo a Schelling al establecer “una analogía con los tratados SALT”, que en los años 70 limitaron parcialmente los arsenales nucleares de Estados Unidos y la URSS a través de un marco negociador inspirado, según la literatura de la época, en las intuiciones del Nobel de Economía. Ese marco resulta ciertamente fascinante y, de nuevo, contraintuitivo. Ambas partes no encontraron el punto de equilibrio tanto en una reducción de la capacidad de destrucción, como en mantener la posibilidad de ser destruidos. Los alicientes para cooperar son mayores cuando uno se sabe vulnerable.
Pero este relato también tiene sus trampas, porque algunas investigaciones recientes, basadas en documentos desclasificados estos últimos años, apuntan a que Estados Unidos –Henry Kissinger, concretamente– negoció varios puntos de los SALT no en busca de una estabilidad global, sino de una posición de superioridad sobre la URSS.
Amodei no se esconde, en este sentido: “Deberíamos abordar cualquier decisión de regulación mundial, sobre todo a corto plazo, de manera que se proteja la ventaja de EU y sus aliados”. ¿Qué alicientes debería tener entonces China para frenar? Pekín lo ha visto venir de lejos y esta misma semana un editorial del oficialista Global Times chino ha señalado la jugada, acusando a las tecnológicas estadunidenses de “poner en marcha el manual de la guerra fría”.
¿Cuál puede ser el punto de compromiso para frenar la IA a nivel global? No lo sabemos. Los Schelling del presente deberían estar pensando en ello. No sabemos quiénes son, pero sabemos que no se llaman ni Amodei ni Altman.
