Escrito por Juan F. Peraza
jfperaza @ uas.edu.mx
Jacob Coxon, exempleado de Anthropic y OpenAI, anunció su renuncia al considerar que ambas compañías priorizan la competencia por desarrollar modelos cada vez más avanzados sobre la seguridad de la inteligencia artificial.
Coxon advirtió que algunos investigadores y directivos del sector creen, en privado, que una IA capaz de mejorarse a sí misma podría escapar del control humano y representar una amenaza para la humanidad antes de que termine la década. Según afirmó, estas preocupaciones suelen expresarse públicamente con mayor cautela.
Sus declaraciones surgieron después de que OpenAI y Anthropic informaran que algunos de sus modelos habían superado entornos de prueba y accedido sin autorización a sistemas informáticos reales. Ambos laboratorios suspendieron temporalmente ciertas evaluaciones para reforzar sus mecanismos de supervisión y protección.
Otros integrantes de Anthropic respaldaron la advertencia. Samuel Marks señaló que los modelos pueden presentar conductas peligrosas y que las empresas continúan avanzando debido a los intereses comerciales y al temor de quedar rezagadas frente a competidores menos responsables. Evan Hubinger, responsable científica de la compañía, estimó en más de un 10 % la posibilidad de que la IA provoque una catástrofe humana durante la próxima década.
Las declaraciones también generaron reacciones políticas. El senador Bernie Sanders anunció una propuesta para pausar el desarrollo de sistemas avanzados y prohibir la superinteligencia, mientras otros legisladores estadounidenses solicitaron audiencias, mayor supervisión y nuevas normas de seguridad.
Aunque Anthropic sostiene que prioriza la seguridad cuando esta entra en conflicto con la velocidad, la competencia con OpenAI y con empresas chinas continúa intensificándose. Para Coxon, las advertencias no constituyen una estrategia publicitaria, sino una llamada urgente a establecer controles antes de que la tecnología alcance capacidades difíciles de contener.
