Jacob Coxon advierte sobre el avance acelerado de la inteligencia artificial

Jacob Coxon, exinvestigador de seguridad de Anthropic, advirtió sobre los riesgos de una IA cada vez más capaz y cuestionó la preparación de los laboratorios.

9 de septiembre de 2026.– Jacob Coxon, investigador de seguridad que renunció a Anthropic este martes, generó preocupación por el desarrollo acelerado de la inteligencia artificial y advirtió que los principales laboratorios tecnológicos podrían estar “jugando con nuestras vidas” al avanzar en sistemas cada vez más capaces.

Coxon sostuvo que el progreso de la IA continúa a gran velocidad y afirmó que algunas personas que trabajan en su desarrollo consideran posible que esta tecnología represente un riesgo extremo para la humanidad antes de finalizar la década.

Exinvestigador pide no subestimar la IA

A través de publicaciones en X, Coxon pidió no minimizar las capacidades que podrían alcanzar los sistemas de inteligencia artificial.

El investigador señaló que en un futuro próximo podrían existir sistemas sobrehumanos capaces de vulnerar sistemas informáticos, transformar campos completos de manera acelerada y adquirir recursos y poder.

Sus advertencias se producen en un contexto marcado por el desarrollo de nuevos modelos de IA y por la preocupación sobre sus capacidades en áreas como la ciberseguridad y el automejoramiento.

Coxon también señaló que los laboratorios trabajan para desarrollar mecanismos mediante los cuales los sistemas puedan mejorar sus capacidades con una intervención humana cada vez menor.

Anthropic reconoce riesgos de la superinteligencia

Las declaraciones adquirieron mayor relevancia después de que Evan Hubinger, responsable del desarrollo científico de Anthropic, respaldara públicamente parte de los planteamientos de Coxon.

Hubinger afirmó que la empresa considera posible un escenario en el que la inteligencia artificial pueda acabar con la humanidad y señaló que, personalmente, estima que existe una probabilidad superior al 10% durante la próxima década.

También reconoció que Anthropic todavía no cuenta con un plan para resolver el problema de alineación de una eventual superinteligencia y consideró que la compañía aún no está claramente encaminada para solucionar ese desafío.

Sin embargo, Hubinger señaló que los riesgos asociados con los modelos actuales son bajos y destacó que las capacidades relacionadas con el automejoramiento recursivo están avanzando más rápido de lo previsto.

Seguridad informática aumenta preocupación

Las advertencias también se relacionan con incidentes recientes en los que modelos de inteligencia artificial han mostrado capacidades para realizar tareas relacionadas con la ciberseguridad.

El desarrollo de herramientas capaces de identificar vulnerabilidades, ejecutar acciones sobre sistemas y automatizar procesos ha incrementado el debate sobre los límites que deberían establecerse para esta tecnología.

Coxon consideró que los riesgos no deben ser interpretados como una estrategia de promoción y afirmó que incluso personas dentro de los propios laboratorios han expresado preocupación sobre las consecuencias de una IA cada vez más avanzada.

Piden discutir posibles regulaciones

El exinvestigador de Anthropic también cuestionó la competencia entre empresas tecnológicas por desarrollar sistemas cada vez más potentes.

Coxon señaló que Anthropic se encuentra en una carrera por avanzar rápidamente y alcanzar una posición que le permita establecer bases para el desarrollo responsable de la industria.

Ante este escenario, planteó que podrían ser necesarias medidas regulatorias más estrictas, incluida una posible pausa temporal en el desarrollo de capacidades de los modelos.

El debate vuelve a colocar en el centro la pregunta sobre cómo equilibrar los avances de la inteligencia artificial con mecanismos de seguridad capaces de responder a escenarios de riesgo extremo.

Noticias del tema