Un ingeniero británico que trabajó durante los últimos tres años para OpenAI, creadora de ChatGPT, y que posteriormente pasó a Anthropic, presentó su renuncia y cuestionó la forma en que ambas compañías están desarrollando sus sistemas de inteligencia artificial. Jacob Coxon sostuvo que la industria está subestimando los riesgos de una tecnología que, a su juicio, podría alcanzar capacidades sobrehumanas en los próximos años.
Jacob Coxon, un ingeniero britanico que laboro en OpenAI y recientemente renuncio a Anthropic, advirtio que la industria esta subestimando los peligros de la inteligencia artificial. El profesional señalo que estos sistemas podrian adquirir capacidades sobrehumanas y representar una amenaza mortal para la humanidad hacia el final de la decada. Ante este escenario, propuso coordinar esfuerzos e incluso pausar temporalmente el incremento de capacidades de los modelos para perfeccionar su control. Por su parte, el investigador de Anthropic Evan Hubinger coincidio en la preocupacion y estimo en mas del 10 % la posibilidad de un desenlace fatal debido a una futura superinteligencia.
- Jacob Coxon renuncio a Anthropic tras trabajar tambien en OpenAI y advirtio sobre los riesgos de que la IA alcance capacidades sobrehumanas.
- Coxon planteo pausar de forma temporal el incremento de capacidades de los modelos para investigar mejores metodos de comprension y control.
- Evan Hubinger, investigador de Anthropic, estimo en mas de un 10 % la probabilidad de que una futura superinteligencia cause la muerte de la humanidad.
- El texto recuerda antecedentes similares de renuncias y advertencias en el sector tecnologico, como la salida de Geoffrey Hinton de Google en 2023.
Coxon, de 27 años, afirmó en un hilo publicado en X que las personas involucradas en el desarrollo de la IA consideran que existe la posibilidad de que estos sistemas “puedan matarnos a todos al final de esta década”.
El ingeniero, identificado por medios especializados como uno de los desarrolladores vinculados a GPT-4o y GPT-4.5, aunque sin ocupar cargos ejecutivos, cuestionó que las empresas continúen acelerando sus proyectos pese a los riesgos que reconoce la propia industria.
Advierte sobre sistemas con capacidades sobrehumanas
Según Coxon, los proyectos de inteligencia artificial podrían convertirse próximamente en sistemas sobrehumanos capaces de hackear sistemas, transformar distintos ámbitos y acumular poder y recursos.
En su opinión, tanto OpenAI como Anthropic son conscientes de los desafíos, aunque considera que ambas compañías los afrontan de manera diferente.
El ingeniero señaló que OpenAI podría no haber internalizado completamente los retos que plantea el desarrollo de esta tecnología, mientras que Anthropic comprendería mejor los riesgos, pero estaría atrapada en la competencia por alcanzar primero nuevos niveles de capacidad en IA.
Ante este escenario, Coxon planteó la necesidad de una mayor coordinación entre las compañías que desarrollan estos sistemas. Incluso defendió medidas costosas, como una prohibición temporal del incremento de las capacidades de los modelos, mientras los investigadores desarrollan mejores mecanismos para comprender y controlar su comportamiento.
Investigador de Anthropic estima riesgo superior al 10 %
Las declaraciones de Coxon recibieron una respuesta de Evan Hubinger, investigador de Anthropic, quien coincidió parcialmente con sus advertencias. Hubinger afirmó que en la compañía existe una preocupación real sobre la posibilidad de que la inteligencia artificial pueda representar una amenaza existencial para la humanidad.
El investigador añadió que, personalmente, estima en más de 10 % la probabilidad de que la IA provoque la muerte de todos los seres humanos durante la próxima década.
Sin embargo, aclaró que considera bajo el riesgo asociado con los modelos actuales y señaló como principal preocupación el desarrollo de una superinteligencia mediante procesos de automejoramiento recursivo.
Otros expertos también han advertido sobre la IA
Coxon no es el único investigador relacionado con la industria tecnológica que ha abandonado un puesto para advertir públicamente sobre los riesgos de la inteligencia artificial.
Uno de los casos más conocidos es el de Geoffrey Hinton, considerado uno de los pioneros de las redes neuronales y ganador del Premio Nobel de Física. En 2023 dejó su puesto en Google y posteriormente expresó públicamente su preocupación por el rápido desarrollo de sistemas de inteligencia artificial y sus posibles consecuencias.
