Una renuncia en uno de los principales laboratorios de inteligencia artificial volvió a poner sobre la mesa una de las discusiones más inquietantes alrededor del avance de esta tecnología.
Jacob Coxon, investigador de 27 años que trabajó durante los últimos tres años en investigación de preentrenamiento en OpenAI y Anthropic, anunció este miércoles su salida de Anthropic con una extensa advertencia pública. El investigador acusó a ambas compañías de avanzar de manera irresponsable hacia sistemas de inteligencia artificial cada vez más autónomos y planteó un escenario extremo: que una futura superinteligencia pueda representar un riesgo existencial para la humanidad. Su renuncia y sus declaraciones fueron confirmadas por medios internacionales.
“Ninguna de las dos compañías está actuando de manera responsable”, escribió Coxon. Según su planteo, los laboratorios estarían inmersos en una competencia por desarrollar primero sistemas capaces de superar ampliamente las capacidades humanas y, eventualmente, contribuir a su propio perfeccionamiento.
La afirmación más alarmante de su mensaje sostiene que algunas de las personas que desarrollan estas tecnologías consideran posible que la inteligencia artificial llegue a provocar una catástrofe global antes de terminar la década. Coxon asegura, además, que ese temor sería expresado en privado por investigadores y ejecutivos del sector. Esa última afirmación corresponde a su testimonio personal y no puede verificarse de manera independiente.
¿Una IA podría realmente “tomar el control”?
Aquí es importante separar la advertencia sobre sistemas hipotéticos futuros de lo que puede hacer la inteligencia artificial disponible actualmente.
Los modelos actuales dependen de una enorme infraestructura física y digital operada por personas y organizaciones: centros de datos, servidores, chips, electricidad, redes de telecomunicaciones, sistemas de refrigeración y permisos para acceder a herramientas externas. Una interrupción eléctrica o de conectividad puede dejar un servicio de IA inaccesible, del mismo modo que ocurre con cualquier plataforma alojada en la nube.
Además, un modelo no adquiere automáticamente control sobre computadoras, cuentas bancarias, redes eléctricas, fábricas o sistemas militares por ser más inteligente. Para actuar sobre el mundo necesita interfaces, permisos, credenciales, conexiones y sistemas físicos que conviertan una respuesta digital en una acción.
Por eso, imaginar una IA simplemente “despertando” y apoderándose por sí sola de toda la infraestructura mundial simplifica enormemente el problema.
Pero esto tampoco significa que el riesgo planteado por Coxon pueda descartarse únicamente diciendo “se corta Internet y listo”. Una infraestructura informática puede estar distribuida entre numerosos centros de datos, contar con sistemas eléctricos de respaldo y conectarse con herramientas capaces de ejecutar acciones. Cuanto mayor sea la autonomía otorgada a futuros sistemas, más importante será limitar sus permisos y diseñar mecanismos de aislamiento y control.
De hecho, los propios laboratorios reconocen riesgos relacionados con autonomía, ciberseguridad y pérdida de control, aunque eso no equivale a afirmar que la extinción humana sea inevitable o probable. Anthropic mantiene una Responsible Scaling Policy que establece niveles crecientes de protección a medida que aumentan las capacidades de los modelos y trabaja específicamente sobre seguridad, salvaguardas y alineamiento.
Responsible Scaling Policy de Anthropic
OpenAI, por su parte, utiliza un Preparedness Framework para evaluar capacidades que podrían ocasionar daños graves y en 2026 publicó además un marco de gobernanza que contempla, entre otros aspectos, riesgos de ciberseguridad, manipulación y pérdida de control.
Frontier Governance Framework de OpenAI
Entre la advertencia y el escenario de ciencia ficción
La carta de Coxon es relevante precisamente porque proviene de alguien que trabajó dentro de dos de los laboratorios más importantes del sector. Pero su experiencia profesional tampoco convierte automáticamente sus predicciones en hechos.
No existe actualmente evidencia de que una IA disponible haya desarrollado por sí misma una superinteligencia autónoma capaz de apropiarse de los recursos físicos y digitales del planeta. Las predicciones sobre una futura inteligencia superior a la humana, su fecha de aparición y sus posibles consecuencias siguen siendo objeto de una fuerte discusión científica.
Algunos investigadores consideran que los riesgos extremos justifican medidas preventivas mucho más estrictas. Otros especialistas advierten que concentrar el debate en escenarios similares a los de la ciencia ficción puede desviar la atención de problemas que ya existen, como la desinformación, los sesgos, el fraude, la ciberseguridad y el impacto de la automatización sobre el empleo.
Para las empresas y los trabajadores, este último punto es especialmente importante. La discusión sobre inteligencia artificial no necesita esperar la aparición de una hipotética superinteligencia: la transformación del mercado laboral ya está ocurriendo.
Las organizaciones están incorporando IA para automatizar tareas, analizar información, programar, atender clientes y asistir procesos administrativos. El desafío inmediato pasa entonces por determinar qué decisiones pueden delegarse, cuáles deben permanecer bajo supervisión humana y qué nuevas habilidades necesitarán los trabajadores.
La advertencia de Coxon pone sobre la mesa un escenario extremo y profundamente controvertido. Pero detrás de ese escenario existe una pregunta mucho más concreta para empresas, gobiernos y trabajadores: a medida que la inteligencia artificial adquiere mayores capacidades, ¿quién establece hasta dónde puede llegar y qué controles deben existir antes de concederle mayor autonomía?
