En el descanso del colegio aprendí algo que ningún libro de teoría de juegos me explicaría después: quién grita primero «¡paren!», suele ser quien gana con trampa la carrera.
Cuando era niño, en los recreos del colegio, corríamos carreras. Las reglas eran pocas: una línea de salida y una de llegada. A la voz de 3, salíamos todos. A los pocos segundos, alguno se detenía de repente, giraba hacia atrás y gritaba: «¡Paren!». Los otros suponíamos que alguien se había caído, que atrás algo había ocurrido, y frenábamos para mirar. Era un reflejo más de solidaridad que de ingenuidad. Él, en cambio, no miraba. Mientras los demás mirábamos hacía atrás, él retomaba la carrera y llegaba primero a la meta. Lo hizo más de una vez, y siempre caímos. Tardamos en entender que el grito no era una advertencia, sino una táctica, una trampa, para ganar la carrera.
Esa escena describe lo que ocurre hoy en la industria de la inteligencia artificial. El 8 de septiembre, Jacob Coxon (@hilbertspaess) renunció a Anthropic (@AnthropicAI) —tras pasar por OpenAI (@OpenAI)— y denunció que ambas compañías «juegan con nuestras vidas». Evan Hubinger (@EvanHub), de Anthropic, le dio la razón y admitió que la probabilidad de un escenario catastrófico en la próxima década supera el 10%.
El 24 de febrero, Anthropic había reescrito su propia Política de Escalamiento Responsable para eliminar la cláusula que la obligaba a pausar el entrenamiento si no podía garantizar la seguridad. La empresa explicó que mantener esa pausa unilateral «resultaría en un mundo menos seguro», porque los desarrolladores con menos escrúpulos marcarían el ritmo. En otras palabras: la compañía que más ha hablado de seguridad en el mundo de la IA admitió, que no puede permitirse frenar primero.
Días después de lo ocurrido este mes, Dario Amodei (@DarioAmodei) de Antrhopic pidió públicamente ralentizar el desarrollo de los modelos más avanzados. Sam Altman (@sama) de OpenAI y Elon Musk (@elonmusk) de Grok lo acompañaron, al menos en el discurso. Pero ninguno detuvo su laboratorio. De hecho, Trump calificó de «engaño» cualquier alarma sobre riesgos existenciales y anunció una «Fuerza de IA» para no perder terreno frente a China -la competencia geopolítica es real, como en la época de la Guerra Fría-.
Es la misma lógica que describió el estratega Thomas Schelling en 1960, en ‘La estrategia del conflicto’, para explicar por qué los actores atrapados en una carrera armamentista escalan incluso cuando preferirían, individual y/o colectivamente, detenerse: nadie puede frenar primero sin una garantía verificable de que el otro también lo hará.
El problema económico de fondo no es la IA en sí misma. El problema, como en la carrera en el colegio, es la ausencia de un árbitro -lo que el ordoliberalismo llamaba una ‘Rahmenordnung’: un marco de reglas compartidas que vuelve competitiva la competencia-.
Y el problema político, profundamente republicano, es que un puñado de corporaciones, sin ningún carácter democrático, está adquiriendo poder sobre la vida colectiva, frente a lo cual los ciudadanos no tenemos ningún derecho.
En el mundo de la IA, estos problemas sociales, políticos y económicos, y no el miedo a la tecnología, es lo que debería inquietarnos.
Otros escritos de este autor: https://noapto.co/juan-felipe-suescun/
