Jacob Coxon alerta sobre los riesgos de la IA

Estados Unidos.- La renuncia de un investigador que trabajó en dos de las compañías de inteligencia artificial más importantes del mundo provocó revuelo en redes sociales, luego de que acusara a ambas empresas de competir por desarrollar sistemas cada vez más poderosos sin contar con suficientes garantías de seguridad.

Se trata de Jacob Coxon, especialista de 27 años que anunció su salida de Anthropic, compañía responsable de Claude, mediante una publicación en X. En su mensaje también cuestionó las decisiones de OpenAI, empresa en la que colaboró anteriormente.

“Renuncié hoy a Anthropic. Pasé los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas está actuando de manera responsable”, escribió.

El investigador aseguró que los laboratorios están avanzando hacia una inteligencia artificial capaz de superar las capacidades humanas e intervenir en su propio desarrollo.

“Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, añadió.

La publicación generó preocupación y debate entre usuarios debido a que Coxon no observa la industria desde el exterior, sino que participó directamente en el entrenamiento de algunos de los modelos más avanzados de los últimos años.

¿Quién es Jacob Coxon?

Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, advirtió que algunos expertos en inteligencia artificial creen que una superinteligencia podría representar una amenaza grave para la humanidad en los próximos años.

Coxon señaló que, aunque en Anthropic existe mayor conciencia sobre estos riesgos, la competencia entre empresas las impulsa a continuar desarrollando sistemas cada vez más avanzados. También criticó que algunas preocupaciones sobre la IA se expresen con mayor cautela públicamente que en conversaciones privadas.

Sus declaraciones cobraron fuerza después de que Evan Hubinger, investigador de Anthropic, respaldara parte de sus preocupaciones y estimara un riesgo superior al 10% de una amenaza existencial causada por una IA durante la próxima década.

Coxon propone que las empresas reduzcan el ritmo de desarrollo e incluso consideren pausas mientras no existan suficientes mecanismos para garantizar la seguridad de estos sistemas.