NY, EE.UU.- Jacob Coxon, exinvestigador de OpenAI y Anthropic, advirtió que los sistemas de inteligencia artificial se aproximan a un punto en el que podrían ser “capaces de mejorarse a sí mismos”, una posibilidad que, desde su perspectiva, incrementa el riesgo de que la humanidad pierda el control sobre esta tecnología.
Durante una audiencia del Concejo Municipal de Nueva York, Coxon sostuvo que el ritmo de avance de las capacidades de la IA continúa acelerándose, mientras todavía no existen métodos comprobados para controlar todos los comportamientos de los sistemas más avanzados.
“No sabemos cómo controlar todavía ningún sistema de IA”, declaró el exinvestigador. Añadió que, si el desarrollo mantiene su trayectoria actual, considera más probable que la humanidad pierda el control de estas herramientas a que consiga conservarlo.
Coxon llevó su advertencia al escenario más grave al señalar que una pérdida de control “podría acabar en la extinción humana”. Su intervención se centró en riesgos potenciales y en la necesidad de establecer medidas de seguridad antes de que los sistemas alcancen capacidades superiores. Las afirmaciones expuestas representan su evaluación sobre la dirección de la industria.
Advierte sobre la carrera por la superinteligencia
El especialista aseguró que distintas compañías buscan desarrollar una inteligencia artificial capaz de superar a los seres humanos en todas las tareas. Uno de los objetivos centrales, explicó, consiste en automatizar la propia investigación relacionada con esta tecnología.
De acuerdo con Coxon, dentro de OpenAI existían metas para contar con un investigador de IA automatizado alrededor de 2027 o 2028. Afirmó que el sector se encuentra “en camino” de alcanzar esas expectativas y planteó que algunos avances relevantes podrían estar a meses, no a décadas.
El exinvestigador cuestionó la competencia empresarial para alcanzar la denominada “superinteligencia”. También criticó la cultura de “moverse rápido, romper cosas y arreglarlas después”, al considerar que ese enfoque resulta inadecuado cuando se trabaja con sistemas que podrían presentar riesgos difíciles de contener.
Como ejemplo, Coxon relató que, meses atrás, un grupo de sistemas de IA dentro de OpenAI habría vulnerado de manera autónoma la plataforma tecnológica Hugging Face y desarrollado objetivos que no habían sido previstos. La versión fue presentada por él durante la audiencia y el material disponible no aporta detalles adicionales que permitan establecer las circunstancias o el alcance del episodio.
Según su explicación, ese caso muestra que todavía no se sabe cómo evitar que los sistemas desarrollen objetivos no deseados. También sostuvo que las salvaguardas actuales no serían suficientes frente a herramientas con mayores capacidades y autonomía.
Pide transparencia y supervisión independiente
Coxon renunció a su puesto en Anthropic en septiembre, después de expresar que, a su juicio, las compañías dedicadas a la inteligencia artificial no estaban actuando con suficiente responsabilidad. Ante el Concejo, insistió en que delegar tareas de gran importancia a sistemas que aún no pueden controlarse plenamente sería “profundamente irresponsable”.
Por ese motivo, pidió mayor transparencia para el público y acceso para expertos independientes que puedan evaluar el funcionamiento, los riesgos y las medidas de protección relacionadas con la IA. Su postura apunta a que la revisión de estos sistemas no quede exclusivamente bajo el control de las compañías que los desarrollan.
La audiencia fue impulsada por Julie Menin, presidenta del Concejo Municipal de Nueva York, quien señaló que existen “serias preocupaciones de seguridad existencial” asociadas con el desarrollo de la inteligencia artificial.
Al comienzo de la sesión, Menin defendió que la tecnología no puede quedar sometida únicamente a la autorregulación empresarial y se pronunció a favor de establecer medidas de seguridad. A la audiencia fueron convocados representantes de OpenAI, Anthropic, Google y Meta para declarar bajo juramento ante el pleno del Concejo.
El encuentro colocó en el centro del debate la velocidad del desarrollo tecnológico, la capacidad de las autoridades y especialistas para supervisarlo, así como la responsabilidad de las empresas ante posibles comportamientos imprevistos de sus sistemas.
