---
title: Jacob Coxon deja Anthropic y cuestiona la seguridad en la carrera por la AGI
description: Jacob Coxon deja Anthropic y advierte sobre los riesgos en la carrera hacia la superinteligencia, cuestionando el control en el desarrollo de IA avanzada.
---

[En clave inbound | Goat blog de Titular](https://www.titular.com/blog)

# [Jacob Coxon deja Anthropic y cuestiona la seguridad en la carrera por la AGI](https://www.titular.com/blog/jacob-coxon-deja-anthropic-y-cuestiona-la-seguridad-en-la-carrera-por-la-agi)

 Escrito por [titular.com](https://www.titular.com/blog/author/titular-com) | 09/09/26, 12:00

El investigador, que también trabajó en OpenAI, denunció una competencia hacia la superinteligencia sin garantías suficientes. Su salida reabre el debate sobre quién debe controlar el desarrollo de los sistemas más avanzados.

## Claves del artículo

- **Jacob Coxon anunció su renuncia a Anthropic el 8 de septiembre**, después de trabajar en investigación de modelos en esa empresa y en OpenAI.
- Acusó a ambos laboratorios de avanzar irresponsablemente hacia una **superinteligencia capaz de mejorarse a sí misma**.
- Su advertencia recibió respaldo de investigadores del sector, pero los escenarios catastróficos que describen son evaluaciones de riesgo, no hechos demostrados.
- Anthropic publica políticas de seguridad: la controversia se centra en si esas medidas resultan suficientes para acompañar el desarrollo tecnológico.

**Jacob Coxon, investigador con experiencia en OpenAI y Anthropic, anunció el 8 de septiembre de 2026 su renuncia a esta última compañía** y cuestionó públicamente el rumbo de los dos laboratorios. Su denuncia apunta a la velocidad con la que desarrollan sistemas cada vez más poderosos y a la falta de garantías para mantenerlos bajo control humano.

Según [Business Insider](https://www.businessinsider.com/anthropic-researcher-quits-over-ai-safety-concerns-2026-9), Coxon integró el personal técnico de OpenAI desde 2023 hasta julio de 2026, cuando pasó a Anthropic. Su trabajo en OpenAI incluyó investigación para GPT-4o. Por lo tanto, la salida anunciada corresponde a Anthropic, aunque sus críticas alcanzan a ambas empresas.

## Una acusación contra la velocidad de la industria

“**Ninguna de las dos empresas está actuando responsablemente**”, escribió Coxon en su [anuncio público en X](https://x.com/hilbertspaess/status/2097476196791709843). El periodista Andy Revkin [reprodujo el mensaje y su desarrollo](https://revkin.substack.com/p/a-blunt-warning-from-an-ai-researcher), donde el investigador cuestiona que las decisiones sobre riesgos de alcance global queden concentradas en compañías privadas.

Coxon sostiene que existe una distancia entre las preocupaciones que algunos directivos e investigadores expresan en privado y sus declaraciones públicas. También describe una dinámica competitiva: según su interpretación, Anthropic reconoce la gravedad de los riesgos, pero continúa acelerando porque considera que otros actores podrían actuar con menos responsabilidad.

Se trata del testimonio y la evaluación de un exempleado. **Sus afirmaciones no prueban que una catástrofe sea inevitable**, aunque aportan una crítica desde dentro de los equipos que construyen estos modelos.

## Más allá de la AGI: sistemas que mejoran otros sistemas

Aunque la discusión suele presentarse como parte de la carrera por la **inteligencia artificial general —AGI—**, Coxon apunta específicamente a la superinteligencia con capacidad de automejora.

Los conceptos no son equivalentes. La AGI se refiere, en términos generales, a sistemas con capacidades amplias comparables a las humanas. La superinteligencia supone superar esas capacidades. La automejora agrega otra dimensión: que la IA contribuya a desarrollar versiones posteriores más capaces.

El problema de seguridad consiste en conservar la supervisión cuando los sistemas participan cada vez más en su propio avance. La propia [política de escalamiento responsable de Anthropic](https://www.anthropic.com/responsible-scaling-policy) contempla umbrales asociados a la automatización de la investigación y el desarrollo de IA.

## El respaldo de otros investigadores

La advertencia encontró eco dentro de Anthropic. Según [The Verge](https://www.theverge.com/ai-artificial-intelligence/991927/anthropic-ai-kill-all-humans), Evan Hubinger, responsable de uno de sus equipos de seguridad, coincidió con parte del diagnóstico y reconoció que todavía no cuentan con un plan resuelto para alinear una superinteligencia con los valores humanos.

Hubinger estimó personalmente un riesgo superior al **10 % de extinción humana durante la próxima década**. Esa cifra representa su valoración individual: no es una probabilidad científicamente establecida ni una previsión oficial de Anthropic.

## Qué controles existen y qué cuestiona Coxon

Describir la situación como un avance literalmente “sin controles” omitiría un dato relevante: **Anthropic mantiene políticas públicas, informes de riesgo y mecanismos de revisión**. Su documentación incluye evaluaciones sobre capacidades peligrosas y medidas para mitigar amenazas.

La existencia de esos procedimientos tampoco demuestra que alcancen para controlar sistemas futuros. Allí se concentra la disputa: qué evidencia de seguridad debería exigirse antes de continuar y quién tiene autoridad para decidir.

El debate tiene antecedentes concretos. Titular abordó el [incidente en el que agentes de OpenAI vulneraron sistemas de Hugging Face](https://www.titular.com/blog/openai-admite-que-sus-agentes-vulneraron-sistemas-de-hugging-face), un episodio que Coxon menciona como advertencia y como posible incentivo para coordinar a los laboratorios.

## La decisión que excede a las empresas

Coxon propone acuerdos para moderar el ritmo de desarrollo y plantea incluso una prohibición temporal de mejorar las capacidades de los modelos si resulta necesaria para frenar una carrera global.

Su salida introduce una exigencia concreta en la discusión pública: establecer qué resultados obligarían a detener un entrenamiento o posponer un lanzamiento. Para gobiernos, empresas usuarias y organismos de evaluación, el siguiente paso será exigir criterios verificables y responsabilidades claras antes de delegar más decisiones en sistemas autónomos.

[Ver post completo](https://www.titular.com/blog/jacob-coxon-deja-anthropic-y-cuestiona-la-seguridad-en-la-carrera-por-la-agi)

```json
{
  "@context" : "http://schema.org",
  "@type" : "BlogPosting",
  "author" : {
    "@type" : "Person",
    "name" : "titular.com"
  },
  "dateModified" : "2026-09-09T12:00:00.486Z",
  "datePublished" : "2026-09-09T12:00:00Z",
  "headline" : "Jacob Coxon deja Anthropic y cuestiona la seguridad en la carrera por la AGI",
  "image" : {
    "@type" : "ImageObject",
    "height" : 941,
    "url" : "https://www.titular.com/hubfs/ChatGPT%20Image%209%20sept%202026%2c%2008_44_31%20a.m..png",
    "width" : 1672
  },
  "mainEntityOfPage" : "https://www.titular.com/blog/jacob-coxon-deja-anthropic-y-cuestiona-la-seguridad-en-la-carrera-por-la-agi",
  "publisher" : {
    "@type" : "Organization",
    "logo" : {
      "@type" : "ImageObject",
      "height" : 60,
      "url" : "/hs/hsstatic/content_shared_assets/static-1.4092/img/default-amp-logo.png",
      "width" : 60
    },
    "name" : "En clave inbound"
  }
}
```