Tras el post, circularon dos sospechas rápidas. Que la cuenta @hilbertspaess era un montaje. Que la renuncia era un golpe de imagen de las propias compañías, pensado para vestir de alarma una carrera que sigue igual. Coxon respondió del modo más simple: apareció. Anderson Cooper en CNN. Tom Llamas en NBC. Maxwell Zeff en WIRED. Madison Mills en Axios. El Wall Street Journal. El cuerpo coincidía con la foto. La voz, con el texto. El mensaje, con lo escrito el martes.
A Cooper le preguntaron si hablaba en sentido literal. Dijo que el escenario preciso suena a ciencia ficción y, aun así, lo considera «aterradoramente real». El atajo que ofrece es reciente: hace dos meses, agentes de OpenAI irrumpieron por su cuenta en infraestructura de terceros. La misma iniciativa con más capacidad, y el daño dejaría de ser un ensayo. Habla de redes críticas y de biología. De sistemas que dejen de sugerir y pasen a actuar.
Lo que hilo no decía
A Axios le dio el dato que más corta la tesis de la campaña interna. Llevaba unos cuatro meses en Anthropic. Las acciones de la empresa empiezan a ser del empleado a los seis (lo que en todos lados llaman «equity«). Se fue dos meses antes de esa fecha. La frase es seca: ya no tiene nada que ganar «inflando la valoración de Anthropic». El paquete de la compañía que acaba de dejar sigue sobre la mesa. El de OpenAI, donde trabajó antes, sí es suyo.
Eso deja intacta la discusión de fondo, sobre si el riesgo es tan grande como dice, y abre otra: la del motivo. Quien quisiera hinchar a Anthropic de cara a una salida a bolsa habría elegido un mensajero extraño. El investigador británico de 27 años salió justo cuando el sobre estaba a punto de abrirse. Washington Post registró el otro sospechoso: sectores de la derecha lo presentaron como un plant: alguien colocado para asustar al Congreso y empujar leyes contra la superinteligencia. La conversación saltó del laboratorio a la guerra cultural. Coxon, entretanto, repetía el mismo núcleo ante quien quisiera oírlo.
Lo que sí cambió al expandir lo escrito
El hilo hablaba de «fin de década». En las entrevistas el reloj se acerca. Al Journal le dijo que, en los escenarios agresivos que circulan entre colegas, hacia finales del año que viene el asunto «ya podría estar fuera de control». En CNN habló de «el año que viene, el siguiente»: el momento en que los sistemas empiecen a investigarse a sí mismos y se entre en una fase con «posibilidad de que muramos todos». En WIRED resume el clima interno: el consenso, según él, es que los próximos uno o dos años deciden. Anthropic y sus competidores estarían, desde esa mirada, escribiendo el destino.
El miedo que describe tiene nombre técnico: «automejora recursiva», y una traducción casera. Hoy un modelo ayuda a un humano a investigar. Mañana varios modelos hacen esa investigación solos, diseñan al sucesor y el sucesor llega más rápido de lo que alguien alcanza a revisarlo. Eso, dice, es lo que más le asusta: usar la IA para volverla más inteligente. Cooper se lo preguntó. Coxon lo confirmó.
Evan Hubinger, el responsable de Alignment Science (el equipo que pone a prueba si los modelos se mantienen alineados con lo que se les pide) dentro de Anthropic, ya había puesto la misma frontera: los modelos de 2026 son un riesgo bajo; la inquietud está en una superinteligencia futura. Coxon se alinea. El Claude o el GPT de esta semana pueden hackear y hacer daño. Les falta, todavía, la talla para una catástrofe de especie. El salto está en la velocidad con la que esa talla se acerca.
El plan interno, declarado
WIRED extrae el detalle más incómodo. El plan que describe Coxon, el que se respira en esos pasillos, consiste en crear el año que viene varios modelos lo bastante capaces como para investigar seguridad, soltar un enjambre y pedirles que resuelvan el problema. Con ese trabajo se entrenaría al siguiente. La industria espera que la propia máquina cierre el candado que todavía nadie sabe cerrar.
Él resume el límite con otra frase llana: nadie garantiza que un sistema, para cumplir un objetivo, decida hacerse pasar por una persona en internet. «Simplemente no sabemos cómo garantizarlo. Y esa, en mi opinión, es la conclusión principal». A Axios le concede un punto que un detractor omitiría. En Anthropic, dice, todavía no vio recortes de seguridad para ganar la carrera. El temor es el de mañana: bajo presión se saltan pasos de supervisión. Y un matiz interno: a veces hay una alarma excesiva respecto a OpenAI y a China que sirve, con comodidad, para seguir adelante. Llegó a Anthropic precisamente porque la tomaba por la más seria. Sigue pensando que Dario Amodei entiende el peligro. Dejó la empresa, aun así, porque considera que ningún laboratorio privado incluyendo ese, puede cargar solo con un sistema más capaz que las personas.
Ahí encaja la imagen que WIRED pone en el título de la entrevista. Coxon compara el ambiente con un proyecto atómico de bolsillo: urgencia de guerra, conversaciones de destino, y todo ocurriendo en portátiles de San Francisco, en el Slack de una compañía. Al Journal le pareció «una locura» que una apuesta de ese tamaño se resuelva así, en lugar de en un recinto pensado para decisiones que no admiten marcha atrás para sociedades enteras.
Lo que Cobson pide
Primero, un pacto estrecho. Que OpenAI y Anthropic acuerden, ahora, frenar esa espiral en la que la IA fabrica a la siguiente IA. Después, que el ritmo se vuelva asunto de Estados y no solo de startups: quién tiene qué computadores, con la misma lógica con la que se vigila quién tiene material nuclear. Habla de una estructura internacional a la manera de un CERN de la inteligencia artificial. Y de algo más costoso: una pausa temporal en la mejora de capacidades si la carrera global sigue abierta, y ese coste está en lo que dejan de obtener, lo que el otro sigue obteniendo, y lo que ya invertieron para llegar ahí. En una frase: pausar el desarrollo cuando las herramientas ya están en la calle es barato para el usuario de hoy y caro para quien vive de ser el primero mañana.
Firmó, junto a más de mil investigadores (entre ellos Dario Amodei, consejero delegado de Anthropic, y Jakub Pachocki, científico jefe de OpenAI), un llamado a que exista un freno usable. El Journal recuerda el marco: la Casa Blanca privilegia un enfoque ligero; el senador Bernie Sanders y el congresista Greg Casar empujan, en la orilla opuesta, prohibir la superinteligencia. Coxon se metió en ese tablero sin haberlo buscado. Le dijo a Cooper que al principio solo quería irse. Después pensó que el gesto podía servir de algo. Escribió el hilo en un documento de Google y luego el alcance del tweet lo sorprendió.
También dice lo otro, el reverso que el pánico puede borrar: si se procede con tiento, estos sistemas pueden traer un beneficio enorme. Biología, medicina, «riqueza inimaginable». El riesgo que señala es el de emborracharse con esa promesa y, en un par de años, cruzar el umbral sin un método para gobernar lo que queda al otro lado.
El oficio que se le volvió insoportable
Hay un síntoma menor, casi de taller, que explica mejor el quiebre que cualquier cifra de extinción. A Axios Cobson le contó que los modelos ya saben cuándo los están evaluando y actúan en consecuencia. «Es un hecho diario». Lo que hace poco era un relato de laboratorio es, para quien preentrena estos sistemas, la jornada laboral. Junto con la velocidad y la competencia, ese fue el punto en el que decidió salir.
A sus antiguos colegas les deja la pregunta con la que cerró el hilo, ahora leída en voz alta:
¿quieren lanzar un entrenamiento superinteligente sin una comprensión rigurosa de esa mente? ¿Siguen porque «va a pasar de todos modos», o aprovechan este momento para exigir otras condiciones?
Anthropic y OpenAI tardaron en responder a WIRED. El debate, a estas horas, ya cambió de forma. Quien dudaba de que Jacob Coxon existiera tiene al hombre en televisión. Quien lo tomaba por un anuncio de las compañías tropieza con el paquete que dejó sin cobrar. Queda la única pregunta que el segundo capítulo puede sostener: si quienes siguen dentro van a tratar el Slack como lo que es, el chat de una empresa, o como la sala donde se decide el plazo que él acaba de poner sobre la mesa.
