El cofundador de Microsoft pidió controles públicos frente a capacidades que, según advirtió, ya permiten usos peligrosos. Sus declaraciones reabren el debate sobre los límites de la autorregulación tecnológica.
Bill Gates reclamó una mayor supervisión de la inteligencia artificial durante una entrevista con Ezra Klein, publicada el 29 de septiembre. Según la cobertura de The Next Web, el empresario sostuvo que los modelos actuales ya cruzaron umbrales peligrosos en ciberseguridad y biología, y cuestionó que las empresas puedan gestionar esos riesgos por sí solas.
“No se puede confiar en que la industria se autorregule en este ámbito”, afirmó Gates, de acuerdo con las declaraciones recogidas por el medio.
Su propuesta incluye una capa de controles y monitoreo cuya continuidad puedan verificar los gobiernos, también cuando se utilicen modelos abiertos. Se trata de una posición sobre cómo regular la tecnología, no del anuncio de una norma aprobada.
La advertencia tiene un correlato concreto en ciberseguridad. En su evaluación de Claude Mythos Preview, Anthropic informó que el modelo encontró vulnerabilidades antiguas en software ampliamente utilizado. Entre los ejemplos figura un fallo de 27 años de antigüedad en OpenBSD, un sistema operativo reconocido por su enfoque en seguridad.
Estos resultados proceden del propio desarrollador y deben leerse con ese alcance. Encontrar una vulnerabilidad tampoco equivale, por sí mismo, a demostrar la capacidad de paralizar una economía.
Sin embargo, el hallazgo ilustra el problema de doble uso: una herramienta que permite descubrir errores para corregirlos también puede facilitar su explotación. La ventaja defensiva depende de que los responsables del software puedan investigar y resolver los fallos antes de que otros los aprovechen.
En el terreno biológico, la evidencia requiere otra distinción. En un informe publicado en septiembre de 2025, Anthropic describió pruebas controladas en las que participantes asistidos por Claude, con las protecciones retiradas, elaboraron planes hipotéticos de adquisición de armas biológicas mejor evaluados que los de un grupo con acceso únicamente a internet.
La compañía aclaró que esos ejercicios escritos eran aproximaciones imperfectas a situaciones reales. El acceso a materiales, la experiencia práctica y las dificultades del laboratorio siguen siendo factores relevantes.
El mismo documento describió un pequeño ensayo de laboratorio, con ocho participantes y tareas básicas, que no detectó una mejora atribuible al modelo. Por eso, los resultados sobre planificación no deben presentarse como prueba de que cualquier usuario puede ejecutar un ataque biológico.
La preocupación documentada es más específica: la IA puede reducir barreras de conocimiento y ofrecer asistencia interactiva, algo distinto de consultar información estática.
Gates ya desarrolló su posición en un ensayo publicado el 26 de agosto en Gates Notes. Allí señaló que los beneficios y los problemas de la IA avanzan al mismo tiempo, y mencionó hospitales, instituciones financieras, redes eléctricas y sistemas de agua entre las infraestructuras expuestas a ataques.
También reconoció sus vínculos financieros con el sector tecnológico. Su intervención combina, por lo tanto, experiencia empresarial, actividad filantrópica e intereses que el propio autor considera relevantes para interpretar sus opiniones.
El planteo se suma a una discusión que Titular abordó al cubrir los cuestionamientos de Jacob Coxon a la seguridad en la carrera por la AGI: qué lugar ocupan las evaluaciones de riesgo cuando las empresas compiten por desarrollar sistemas cada vez más capaces.
Para las organizaciones que incorporan IA, ese debate abre una exigencia concreta hacia sus proveedores: pedir evidencia sobre qué capacidades evalúan, qué controles aplican y cómo comunican los incidentes. Una declaración general de seguridad aporta poco si no permite conocer qué se probó, bajo qué condiciones y con qué límites.