Jacob Coxon dejó Anthropic y cuestionó la carrera entre las grandes empresas tecnológicas por desarrollar sistemas de inteligencia artificial cada vez más avanzados. Aseguró que dentro de la industria existe preocupación por un posible riesgo extremo para la humanidad.
El investigador Jacob Coxon, quien trabajaba en Anthropic, anunció su salida de la compañía y realizó una contundente advertencia sobre los riesgos que, según sostiene, podría representar el desarrollo acelerado de la inteligencia artificial (IA).
A través de la red social X, Coxon afirmó que algunos de los profesionales que trabajan en el desarrollo de estos sistemas consideran seriamente la posibilidad de que una IA avanzada pueda llegar a representar una amenaza de escala global antes de que termine la década.
Su preocupación no se limita al potencial peligro de la tecnología, sino también a la concentración de decisiones en un grupo reducido de empresas y personas que compiten por alcanzar primero nuevos niveles de desarrollo.
“Están atrapados en una carrera por llegar antes”
Coxon cuestionó particularmente la competencia entre las principales compañías de inteligencia artificial y sostuvo que existe una diferencia entre reconocer los riesgos y tomar medidas suficientes frente a ellos.
En referencia a OpenAI, afirmó que muchos de sus integrantes no habrían dimensionado completamente las consecuencias que podría tener la evolución de esta tecnología. Sobre Anthropic, en cambio, señaló que allí existiría una mayor conciencia sobre el problema, aunque consideró que la empresa está condicionada por la competencia tecnológica.
El investigador también rechazó la idea de que este tipo de advertencias sean simplemente una estrategia de marketing para atraer inversiones y atención.
Según su planteo, algunos directivos moderan sus declaraciones públicas, mientras que en ámbitos privados expresan preocupaciones mucho mayores sobre el futuro de la IA.
Un exjefe de Anthropic respaldó la advertencia
Las declaraciones de Coxon recibieron posteriormente el respaldo de Evan Hubinger, quien fue su jefe en Anthropic y trabaja en el área de investigación relacionada con la alineación de la inteligencia artificial.
Hubinger sostuvo que dentro del sector existe realmente preocupación por la posibilidad de que una IA avanzada pueda provocar consecuencias catastróficas para la humanidad.
Incluso estimó personalmente en más de un 10% la probabilidad de que ocurra un escenario de este tipo durante la próxima década, aunque aclaró que considera bajo el riesgo asociado a los modelos actuales.
Su principal preocupación está puesta en una eventual superinteligencia capaz de mejorar sus propias capacidades de manera recursiva.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Qué es la automejora recursiva de la IA
El concepto de automejora recursiva hace referencia a un escenario hipotético en el que un sistema de inteligencia artificial podría contribuir al desarrollo de versiones posteriores más capaces, que a su vez participarían en la creación de sistemas todavía más avanzados.
La preocupación de algunos investigadores es que este proceso pueda acelerar el desarrollo de capacidades de manera difícil de controlar o predecir.
Este escenario es uno de los principales motivos por los que dentro de la comunidad dedicada a la seguridad de la IA se debate sobre la necesidad de establecer mecanismos de control y alineación antes de alcanzar sistemas mucho más capaces que los actuales.
Qué significa el “p doom”
Dentro de los debates sobre seguridad de la inteligencia artificial aparece con frecuencia el concepto conocido como “p doom”, una expresión utilizada para referirse a la probabilidad estimada de que la IA provoque una catástrofe de consecuencias extraordinarias para la humanidad.
No existe un porcentaje único aceptado por la comunidad científica. Las estimaciones varían considerablemente según los investigadores y los escenarios considerados.
El 10% mencionado por Hubinger representa, por lo tanto, su propia evaluación del riesgo y no una predicción científica consensuada sobre lo que ocurrirá con la inteligencia artificial.
Anthropic ya había advertido sobre los riesgos
Las declaraciones de Coxon y Hubinger se suman a otras advertencias realizadas anteriormente desde la propia Anthropic, una de las compañías que compiten en el desarrollo de modelos avanzados de inteligencia artificial.
Su CEO, Dario Amodei, también expresó preocupación por la velocidad con la que avanza la tecnología y sostuvo que en 2026 la humanidad estaría más cerca de enfrentar riesgos concretos vinculados con la IA que algunos años atrás.
El debate, mientras tanto, continúa abierto: mientras las empresas avanzan en modelos cada vez más capaces, investigadores y especialistas discuten hasta dónde pueden llegar estas tecnologías y qué mecanismos deberían implementarse para evitar escenarios potencialmente peligrosos.
