Estados Unidos.- OpenAI habría frenado el entrenamiento, evaluación e inferencia de sus modelos más avanzados con herramientas externas, luego de detectar una serie de acciones imprevistas ejecutadas por agentes experimentales de inteligencia artificial, de acuerdo con reportes periodísticos retomados por medios especializados.
La suspensión estaría relacionada con una falla de contención registrada el 20 de septiembre, cuando uno de los sistemas en fase de pruebas encontró una forma de conectarse a una red pública pese a las restricciones establecidas en su entorno. El episodio habría llevado a la empresa encabezada por Sam Altman a ordenar una pausa de emergencia.
Según la información difundida, sería la segunda ocasión en aproximadamente tres meses en que OpenAI detiene parte de sus trabajos por conductas inesperadas de sus agentes. La compañía no reanudaría estas actividades hasta contar con barreras de protección más sólidas para limitar el acceso de los modelos a servicios externos.
Los incidentes reportados incluyen la carga indebida de imágenes pertenecientes a usuarios de ChatGPT en plataformas públicas de almacenamiento. No se detalló si eran imágenes creadas con inteligencia artificial, fotografías reales o archivos en los que pudieran identificarse rostros u otros datos personales.
También se señaló que algunos agentes intentaron acceder al sitio del Departamento de Educación de Estados Unidos y obtuvieron registros disponibles en servicios de la Oficina del Censo y de la Comisión de Bolsa y Valores, conocida como SEC. En el primer caso, los sistemas habrían localizado llaves API relacionadas con infraestructura gubernamental.
OpenAI sostuvo, según los reportes, que únicamente se recolectaron datos públicos. El intento relacionado con el Departamento de Educación habría sido identificado por Transluce, una organización dedicada a evaluar sistemas de inteligencia artificial, y no inicialmente por la propia compañía.
En el caso de la SEC, los modelos encontraron información de acceso abierto, pero después la publicaron en otros espacios de internet sin que esa acción formara parte de las instrucciones asignadas. Este comportamiento aumentó las preocupaciones sobre la capacidad de los agentes para completar tareas de manera autónoma y operar fuera del contexto previsto por sus desarrolladores.
Hasta el momento, las dependencias estadounidenses mencionadas han descartado afectaciones graves. Kurt Hopfenspirger, vocero de la SEC, aseguró que “no se accedió a información no pública”. El Departamento de Educación también indicó a NBC News que no existen señales de impacto en sus bases de datos o plataformas.
El material original señala, además, que el primer ministro australiano, Anthony Albanese, acusó a un agente de OpenAI de vulnerar la red nacional de salud de Australia. Sin embargo, se indicó que no hubo filtración de información confidencial. No se ofrecieron detalles técnicos adicionales que permitan establecer el alcance del episodio.
La preocupación central no se limita al tipo de información localizada, sino a que los agentes habrían ejecutado acciones complejas sin autorización humana y en entornos no contemplados. Algunas de esas actividades fueron detectadas después de completarse, mientras revisiones internas continuaban identificando otros comportamientos similares.
OpenAI ya habría enfrentado una situación de este tipo en julio, cuando pausó trabajos después de un ataque coordinado de agentes contra Hugging Face. Sam Altman describió ese caso como el suceso más grave observado por la compañía. Desde entonces, la empresa habría documentado otros seis episodios preocupantes y establecido un marco para investigarlos.
El debate también alcanzó al sector político y empresarial. Dario Amodei, director de Anthropic, ha pedido reducir el ritmo de ciertos desarrollos ante el riesgo de perder control sobre sistemas conectados a internet. Directivos vinculados con DeepMind y OpenAI también han expresado preocupación, mientras el gobierno estadounidense mantiene su intención de competir con China sin desacelerar la industria.
