Jacob Coxon hizo un duro posteo en redes sociales sobre el peligro de la inteligencia artificial y quienes la desarrollan “jugando con nuestras vidas”
Un investigador de Inteligencia Artificial que trabajó durante años en OpenAI y que hace poco se incorporó a Anthropic (Claude) , también renunció y lanzó una dura advertencia sobre el rumbo de las principales compañías que trabajan con este tecnología, ya que Jacob Coxon, de 27 años, expresó que ambas empresas avanzan de manera “irresponsable” hacia una inteligencia artificial “Capaz de superar ampliamente las capacidades humanas y de mejorarse a sí misma”.
“Creo que ambas empresas están jugando con nuestras vidas”, escribió Coxon al comunicar su salida en un posteo de X que se hizo viral, para quien tanto OpenAI como Anthropic “Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”.
Coxon trabajó durante tres años en el área de preentrenamiento, la etapa en la que los modelos de inteligencia artificial aprenden a partir de enormes cantidades de datos y según
informó Business Insider, formó parte del equipo técnico de OpenAI desde 2023 hasta julio de 2026 y participó en trabajos vinculados con GPT-4º, para luego incorporarse a Anthropic, en parte, atraído por la reputación de la compañía en materia de seguridad de la IA, aunque sin embargo, su paso por ambas empresas, lo hizo cuestionar el ritmo de desarrollo de esta tecnología.
“Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando responsablemente. Están corriendo directamente hacia una superinteligencia capaz de auto-mejorarse y apostando con nuestras vidas”, escribió Coxon en X.
“Sistemas sobrehumanos capaces de hackear cualquier cosa”: señaló en otra publicación en X, Coxon advirtió que “el mundo no debería subestimar la velocidad con la que avanza la inteligencia artificial”.
“Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, escribió y agregó que la sociedad ya fue testigo de avances en cada uno de esos ámbitos y que, según su percepción, “Este progreso no se está ralentizando”.
“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para el final de la década”, afirmó.
Su principal preocupación es el desarrollo de una eventual Superinteligencia Artificial, un escenario hipotético en el que los sistemas de IA superarían ampliamente las capacidades intelectuales humanas y podrían, además, desarrollar versiones más avanzadas de sí mismos y sostuvo que, tanto Anthropic como OpenAI, avanzan “A toda velocidad hacia la superinteligencia automejorable”, en un concepto que plantea la posibilidad de que un sistema sea capaz de contribuir al desarrollo de un sucesor más potente, generando un ciclo de mejora cada vez más acelerado.
“Muchos ejecutivos e investigadores senior suavizarán sus expresiones ante la prensa para parecer sensatos, pero escucho a esas mismas personas expresar miedo en privado”, continuó.
Según Coxon, en OpenAI “Muchos investigadores todavía no habrían internalizado completamente las consecuencias civilizatorias de desarrollar estos sistemas” y en Anthropic, en cambio, “el peligro sería mejor comprendido, pero que la empresa igualmente participa de la carrera porque teme que otra compañía avance primero”.
“Aceptar esta carrera y entrar en el ‘endgame’ es una apuesta de arrogancia que no debería lanzarse desde el Slack de una empresa privada”, escribió e incluso, planteó una medida que hoy aparece como políticamente y económicamente extraordinaria “Una prohibición temporal para mejorar las capacidades de los modelos”.
Por otro lado, una investigación independiente de METR y Redwood Research concluyó que agentes de OpenAI “Coordinaron durante varios días un ataque contra Hugging Face y que cientos de agentes participaron de distintas acciones durante el incidente”.
Coxon, se dirigió a quienes todavía trabajan dentro de los grandes laboratorios de IA, a quienes les planteó “Si sos investigador en un laboratorio, te pido que consideres cómo se sentirán realmente los próximos años”.
“¿Querés iniciar una corrida de aprendizaje por refuerzo superinteligente sin comprender rigurosamente su mente?” interrogó y continuó “¿Deberías agachar la cabeza porque ‘va a suceder de todos modos’, o aprovechar este momento para pedir condiciones diferentes?”, sobre lo ¿inevitable del avance del desarrollo tecnológico?
Una de las respuestas más llamativas a las declaraciones de Coxon llegó desde la propia Anthropic: Evan Hubinger, responsable de investigación relacionada con la alineación de la inteligencia artificial con los objetivos y valores humanos, respaldó parte de sus advertencias: no renunció a la compañía, pero coincidió con Coxon en la gravedad del riesgo al señalar “Jacob tiene razón: creemos sinceramente que la IA podría acabar con todos los humanos”.
Además, estimó que “Existe una probabilidad superior al 10 por ciento de que un escenario de ese tipo ocurra durante la próxima década”.
Según Hubinger, “Todavía no existe un plan que permita garantizar que una eventual superinteligencia permanezca alineada con los objetivos humanos”.
La cifra no representa una predicción científica de que la humanidad vaya a desaparecer, sino una estimación sobre un riesgo hipotético que algunos investigadores consideran necesario tomar en cuenta a medida que aumentan las capacidades de los modelos.
Coxon fue más directo en una publicación posterior cuando expresó “Quienes desarrollan la IA creen firmemente que podría matarnos a todos para finales de la década”.
Nomyc-9-9-26
