OpenAI y Anthropic en la ONU: qué pidieron para controlar la IA

Los CEOs Sam Altman y Dario Amodei reclamaron cooperación internacional para afrontar los riesgos de la inteligencia artificial. El control humano, las pruebas de seguridad y la concentración de poder marcaron sus intervenciones.

Claves del artículo

• Los ejecutivos hablaron el 23 de septiembre de 2026 ante el Consejo de Seguridad de Naciones Unidas.
• Altman pidió estándares compartidos, mecanismos para reportar incidentes y supervisión humana.
• Amodei advirtió sobre el uso malicioso de la IA y prometió desacelerar el desarrollo cuando la seguridad lo requiera.

Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, llevaron al Consejo de Seguridad un planteamiento común: gestionar los riesgos de la inteligencia artificial exige coordinación entre países y empresas. La sesión abordó el impacto de esta tecnología sobre la seguridad internacional, según la cobertura oficial de Naciones Unidas.

Las intervenciones coincidieron en la necesidad de preservar la capacidad humana de decidir, aunque cada ejecutivo puso el foco en amenazas y respuestas diferentes.

Altman: mantener el control y evitar la concentración de poder

El responsable de OpenAI identificó dos riesgos centrales: que los sistemas avancen tan rápido que las personas pierdan la capacidad de intervenir y que sus capacidades queden concentradas en pocos actores.

“Podríamos perder el control del futuro ante la IA”, afirmó, según la transcripción de su discurso publicada por OpenAI. La advertencia apuntó especialmente a sistemas capaces de contribuir a su propia mejora y acelerar el desarrollo de nuevas versiones.

Altman sostuvo que la competencia comercial no justifica asumir riesgos excesivos. También afirmó que OpenAI redujo el ritmo de desarrollo en el pasado y volverá a hacerlo cuando sea necesario.

Su propuesta incluyó estándares internacionales para evaluar capacidades y riesgos, protocolos ágiles de notificación de incidentes y canales seguros para compartir vulnerabilidades. Defendió que las decisiones centrales pasen por instituciones democráticas y que los estándares contemplen tanto modelos abiertos como cerrados.

Amodei: pruebas comunes y límites al uso malicioso

El CEO de Anthropic distinguió entre dos problemas: el uso de los modelos para causar daño —incluido el desarrollo de armas biológicas— y la posibilidad de que sus capacidades superen las herramientas disponibles para controlarlos.

“Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”, declaró, de acuerdo con la crónica de Anadolu distribuida en Reuters Connect. Las citas se presentan traducidas del inglés.

Amodei aseguró que Anthropic desacelerará cuanto resulte necesario para garantizar la seguridad de los sistemas que publique. Su argumento fue que las decisiones de una sola compañía resultan insuficientes frente a riesgos de alcance mundial.

Por eso reclamó criterios globales para probar los modelos, tanto frente al uso malicioso como ante escenarios de pérdida de control. Su planteamiento sitúa la evaluación de seguridad como una condición para avanzar, con responsabilidades compartidas por toda la industria.

Un debate que supera a los laboratorios

Naciones Unidas enmarca estas discusiones en sus iniciativas de cooperación digital, entre ellas el Pacto Digital Global y el Panel Científico Internacional Independiente sobre Inteligencia Artificial. La información de UN News reproducida por Global Issues ubica el encuentro dentro de ese proceso.

Para las empresas que incorporan IA, el debate tiene una traducción práctica: determinar qué tareas pueden delegar, qué información necesitan para supervisarlas y quién puede detener una acción. Esa discusión cobra relevancia mientras asistentes como Meta AI amplían sus funciones de análisis de campañas y competidores.

Como lectura empresarial de las intervenciones, surge una exigencia concreta para evaluar proveedores: pedir evidencia sobre sus controles. Qué pruebas realizan, cómo comunican los incidentes y qué capacidad de intervención ofrecen son preguntas que permiten convertir las promesas de seguridad en criterios de contratación.