El investigador, que también trabajó en OpenAI, denunció una competencia hacia la superinteligencia sin garantías suficientes. Su salida reabre el debate sobre quién debe controlar el desarrollo de los sistemas más avanzados.
Jacob Coxon, investigador con experiencia en OpenAI y Anthropic, anunció el 8 de septiembre de 2026 su renuncia a esta última compañía y cuestionó públicamente el rumbo de los dos laboratorios. Su denuncia apunta a la velocidad con la que desarrollan sistemas cada vez más poderosos y a la falta de garantías para mantenerlos bajo control humano.
Según Business Insider, Coxon integró el personal técnico de OpenAI desde 2023 hasta julio de 2026, cuando pasó a Anthropic. Su trabajo en OpenAI incluyó investigación para GPT-4o. Por lo tanto, la salida anunciada corresponde a Anthropic, aunque sus críticas alcanzan a ambas empresas.
“Ninguna de las dos empresas está actuando responsablemente”, escribió Coxon en su anuncio público en X. El periodista Andy Revkin reprodujo el mensaje y su desarrollo, donde el investigador cuestiona que las decisiones sobre riesgos de alcance global queden concentradas en compañías privadas.
Coxon sostiene que existe una distancia entre las preocupaciones que algunos directivos e investigadores expresan en privado y sus declaraciones públicas. También describe una dinámica competitiva: según su interpretación, Anthropic reconoce la gravedad de los riesgos, pero continúa acelerando porque considera que otros actores podrían actuar con menos responsabilidad.
Se trata del testimonio y la evaluación de un exempleado. Sus afirmaciones no prueban que una catástrofe sea inevitable, aunque aportan una crítica desde dentro de los equipos que construyen estos modelos.
Aunque la discusión suele presentarse como parte de la carrera por la inteligencia artificial general —AGI—, Coxon apunta específicamente a la superinteligencia con capacidad de automejora.
Los conceptos no son equivalentes. La AGI se refiere, en términos generales, a sistemas con capacidades amplias comparables a las humanas. La superinteligencia supone superar esas capacidades. La automejora agrega otra dimensión: que la IA contribuya a desarrollar versiones posteriores más capaces.
El problema de seguridad consiste en conservar la supervisión cuando los sistemas participan cada vez más en su propio avance. La propia política de escalamiento responsable de Anthropic contempla umbrales asociados a la automatización de la investigación y el desarrollo de IA.
La advertencia encontró eco dentro de Anthropic. Según The Verge, Evan Hubinger, responsable de uno de sus equipos de seguridad, coincidió con parte del diagnóstico y reconoció que todavía no cuentan con un plan resuelto para alinear una superinteligencia con los valores humanos.
Hubinger estimó personalmente un riesgo superior al 10 % de extinción humana durante la próxima década. Esa cifra representa su valoración individual: no es una probabilidad científicamente establecida ni una previsión oficial de Anthropic.
Describir la situación como un avance literalmente “sin controles” omitiría un dato relevante: Anthropic mantiene políticas públicas, informes de riesgo y mecanismos de revisión. Su documentación incluye evaluaciones sobre capacidades peligrosas y medidas para mitigar amenazas.
La existencia de esos procedimientos tampoco demuestra que alcancen para controlar sistemas futuros. Allí se concentra la disputa: qué evidencia de seguridad debería exigirse antes de continuar y quién tiene autoridad para decidir.
El debate tiene antecedentes concretos. Titular abordó el incidente en el que agentes de OpenAI vulneraron sistemas de Hugging Face, un episodio que Coxon menciona como advertencia y como posible incentivo para coordinar a los laboratorios.
Coxon propone acuerdos para moderar el ritmo de desarrollo y plantea incluso una prohibición temporal de mejorar las capacidades de los modelos si resulta necesaria para frenar una carrera global.
Su salida introduce una exigencia concreta en la discusión pública: establecer qué resultados obligarían a detener un entrenamiento o posponer un lanzamiento. Para gobiernos, empresas usuarias y organismos de evaluación, el siguiente paso será exigir criterios verificables y responsabilidades claras antes de delegar más decisiones en sistemas autónomos.