¿Quién es Jacob Coxon? El investigador que renunció a Anthropic por miedo a que la IA quede “fuera de control”

El investigador Jacob Coxon renunció este 8 de septiembre a Anthropic y anunció que también abandonará la industria de la inteligencia artificial, después de trabajar durante los últimos tres años en dos de los laboratorios más importantes del sector, OpenAI y Anthropic.

Su salida rápidamente llamó la atención porque estuvo acompañada de una advertencia mucho más grave: considera que las empresas están compitiendo por desarrollar sistemas cada vez más poderosos sin contar todavía con garantías suficientes para mantenerlos bajo control.

Coxon no presentó su decisión como un simple cambio profesional. En una serie de mensajes publicados tras anunciar su renuncia, acusó directamente a sus dos antiguos empleadores de actuar de manera irresponsable y sostuvo que la carrera tecnológica se dirige hacia una “superinteligencia capaz de mejorarse a sí misma”.

Su postura reavivó una discusión que desde hace años divide a investigadores, empresarios y gobiernos: qué ocurriría si las capacidades de la inteligencia artificial avanzan más rápido que los mecanismos creados para supervisarlas.

¿Quién es Jacob Coxon y qué hacía en la industria de la IA?

Coxon es un investigador británico de 27 años especializado en inteligencia artificial. Durante aproximadamente tres años trabajó en investigación de preentrenamiento, una de las etapas fundamentales en el desarrollo de los grandes modelos de lenguaje. Antes de incorporarse a Anthropic formó parte de OpenAI, donde aparece acreditado oficialmente entre los colaboradores clave que participaron en el desarrollo de GPT-4o.

Posteriormente se trasladó a Anthropic, compañía creadora de Claude y conocida precisamente por colocar la seguridad de la inteligencia artificial entre los pilares de su estrategia. Esa trayectoria es uno de los elementos que ha dado mayor repercusión a sus declaraciones, debido a que sus advertencias proceden de alguien que participó directamente en el desarrollo de modelos avanzados y no solamente de un observador externo.

“Están apostando con nuestras vidas”

Al anunciar su salida de Anthropic, Coxon explicó que había llegado a la conclusión de que ninguna de las dos empresas en las que trabajó estaba respondiendo adecuadamente a los riesgos que, desde su perspectiva, representa la carrera por desarrollar inteligencia artificial avanzada.

“Ninguna de las dos compañías está actuando responsablemente. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están apostando con nuestras vidas”, escribió el investigador.

Coxon sostiene que el problema no consiste únicamente en que los modelos sean cada vez más capaces. Su preocupación se concentra en la posibilidad de desarrollar sistemas que eventualmente puedan mejorar sus propias capacidades, realizar tareas de forma autónoma y superar a los humanos en campos relevantes, antes de que los investigadores comprendan suficientemente cómo controlarlos.

Coxon asegura que el miedo también existe dentro de las empresas

Otra de sus declaraciones que provocó reacciones fue la relacionada con lo que, asegura, escucha dentro de los propios laboratorios de inteligencia artificial. Coxon afirmó que quienes trabajan directamente en esta tecnología contemplan escenarios mucho más graves de lo que normalmente expresan públicamente.

“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos antes de que termine la década”, escribió. Según el investigador, no se trataría de una estrategia de marketing y algunos ejecutivos e investigadores moderarían públicamente la manera en que hablan sobre esos riesgos, mientras que en privado expresarían preocupaciones mayores.

La afirmación representa la valoración personal de Coxon sobre el riesgo futuro de la IA, no una predicción científica comprobada. Tampoco existe consenso entre especialistas sobre que un escenario de extinción humana sea inevitable. Sin embargo, la discusión sobre sistemas capaces de actuar con mayor autonomía, realizar ciberataques o facilitar el desarrollo de amenazas biológicas sí forma parte actualmente del debate internacional sobre seguridad de la inteligencia artificial.

Advierte que los próximos años serán decisivos

Coxon considera que el avance de los modelos actuales permite imaginar sistemas capaces de superar a los humanos en un número creciente de tareas. Entre los escenarios que menciona se encuentran inteligencias artificiales con capacidades avanzadas para hackear sistemas informáticos, acelerar descubrimientos científicos y adquirir recursos o influencia en el mundo real.

Su advertencia llega además en un momento en que la seguridad de la IA vuelve a ocupar el debate político. Especialistas y algunos legisladores estadounidenses han planteado diferentes mecanismos para regular el desarrollo de sistemas extremadamente poderosos, mientras las grandes compañías tecnológicas continúan invirtiendo cantidades históricas en infraestructura, chips y nuevos modelos.

Únete al canal de WhatsApp y recibe en tu celular lo más importante de México y el mundo con el análisis y la voz de Guillermo Ortega Ruiz.