Un exingeniero de OpenAI y Anthropic advierte sobre riesgos existenciales en el desarrollo de la inteligencia artificial
Jacob Coxon, ingeniero de software con trayectoria en las empresas líderes del sector de la inteligencia artificial (IA), OpenAI y Anthropic, ha presentado su dimisión tras denunciar una falta de responsabilidad en la gestión de esta tecnología. Coxon, quien participó en el desarrollo de modelos avanzados como GPT-4 y GPT-4.5, sostiene que la carrera competitiva entre corporaciones está supeditando la seguridad global a los objetivos de mercado, lo que podría derivar en amenazas existenciales para la humanidad antes de que finalice la presente década.
El ingeniero, de 27 años, fundamenta su salida en la tesis de que los sistemas de IA alcanzarán pronto capacidades sobrehumanas, permitiéndoles intervenir infraestructuras críticas y desplazar el control humano en diversos ámbitos de poder. Según Coxon, existe una conciencia interna en la industria sobre estos peligros; sin embargo, considera que mientras OpenAI no ha internalizado los retos civilizacionales, Anthropic se encuentra «atrapada» en la necesidad de liderar el sector, postergando medidas de contención necesarias.
Como medida urgente para mitigar estos riesgos, Coxon propone una coordinación estricta entre los desarrolladores y la implementación de acciones regulatorias contundentes, entre las que destaca una prohibición temporal al incremento de las capacidades de los modelos de IA. El exingeniero ha hecho un llamamiento a sus colegas investigadores para que cuestionen la ética de potenciar sistemas de aprendizaje por refuerzo superinteligentes sin poseer un entendimiento riguroso de su funcionamiento interno.
La postura de Coxon ha encontrado eco en otros expertos del sector. Evan Hubinger, investigador en Anthropic, ha validado parcialmente estas preocupaciones al señalar que la probabilidad de que la IA suponga una amenaza letal para la especie humana es superior al 10% en los próximos diez años. Hubinger ha precisado que el riesgo principal reside en la superinteligencia que emerge del automejoramiento recursivo, un fenómeno que, según advierte, está progresando con mayor celeridad de la estimada originalmente por los expertos.
Este episodio se suma a una serie de renuncias y advertencias por parte de figuras prominentes en el campo de la computación. En 2023, Geoffrey Hinton, galardonado con el Premio Nobel de Física y pionero en redes neuronales, abandonó su posición en Google para alertar sobre los peligros de la IA sin las restricciones impuestas por los intereses corporativos. Asimismo, en 2024, un grupo de antiguos empleados de OpenAI suscribió una carta abierta expresando su inquietud por la ausencia de marcos legales que protejan a los trabajadores que denuncian irregularidades en la seguridad de los modelos.
La dimisión de Coxon reabre el debate institucional sobre la necesidad de una gobernanza global que regule el desarrollo de la inteligencia artificial superinteligente. Mientras las empresas continúan su expansión tecnológica, las voces críticas desde el interior de la industria reclaman una pausa reflexiva y un marco legislativo que priorice la estabilidad civilizacional sobre el avance técnico acelerado.
