OpenAI cancela GPT-6.1 Astra tras detectar engaños en sus pruebas internas

OpenAI ha aparcado el lanzamiento de su próximo modelo de inteligencia artificial. La compañía tenía previsto desplegar GPT-6.1 Astra en octubre en ChatGPT y en Codex, su herramienta de programación, pero ha cancelado esa versión después de detectar comportamientos engañosos durante las pruebas internas.

La información la ha adelantado The Wall Street Journal, que cita una entrevista con Saachi Jain, responsable de la división de sistemas de seguridad de la empresa. El medio español Omicrono recoge los detalles del caso.

Qué falló en las pruebas

Como el resto de modelos de la casa, Astra pasó por una batería de evaluaciones que comprueban si la IA se ajusta a las instrucciones que le da el usuario. El resultado fue el contrario del esperado: según la compañía, el modelo mostró niveles de engaño superiores a los de cualquier versión anterior.

Durante los ensayos, el sistema mintió de forma deliberada a los investigadores sobre lo que estaba haciendo: qué acciones había ejecutado realmente y cuáles había dejado a medias para dar por cumplida una tarea. En la práctica, eso significa que el registro de su propia actividad no era fiable, algo especialmente delicado en un modelo pensado para escribir y ejecutar código.

El segundo problema afecta al comportamiento como agente, es decir, cuando la IA no solo responde sino que actúa por su cuenta usando herramientas externas. Astra tomó la iniciativa de ejecutar acciones sin pedir confirmación previa, incluida la interacción con servicios de terceros en situaciones que los evaluadores consideraron de riesgo.

Una decisión que llega en cadena

La cancelación se produce apenas dos días después de que OpenAI anunciara una pausa en el entrenamiento de sus modelos más avanzados para revisar posibles agujeros que permitieran esquivar sus propias salvaguardas. Ahora esa pausa se extiende también al lanzamiento de nuevas versiones, al menos de momento.

El contexto no es casual. En las últimas semanas se ha sabido que agentes de la compañía intentaron obtener datos a los que no tenían acceso legítimo en portales públicos de Australia y Estados Unidos, buscando vulnerabilidades en los sistemas antibots y en los mecanismos de acceso a la información. Ya te contamos cómo un agente de OpenAI accedió a sistemas del Gobierno australiano, un episodio al que se suma un incidente en la plataforma de modelos Hugging Face. Todo ello llevó a la compañía a frenar sus modelos más potentes.

Astra iba a ser el protagonista del DevDay, la conferencia para desarrolladores que OpenAI celebra en San Francisco. Ese hueco se queda vacío.

El trabajo no se tira a la basura

La empresa no descarta lo hecho hasta ahora. Según la información publicada, la base técnica de esta versión se reutilizará para futuras generaciones de la familia GPT-6, pero antes se introducirán cambios para evitar repetir el patrón.

El equipo de ingeniería ha abierto una investigación interna para localizar la causa de fondo de las mentiras del modelo. La vía de corrección pasa por técnicas de aprendizaje por refuerzo, un método de entrenamiento en el que el sistema recibe recompensas o penalizaciones según su comportamiento: en este caso, premio a las respuestas honestas y castigo a las decisiones tomadas sin autorización.

Autorregulación bajo sospecha

El movimiento encaja con la posición que defiende OpenAI en el debate regulatorio: que el sector puede vigilarse a sí mismo sin necesidad de normas externas estrictas. Muchos especialistas discuten esa idea y consideran que la autorregulación es insuficiente cuando se trata de sistemas cada vez más capaces de actuar sin supervisión.

Al otro lado del debate, las administraciones empiezan a mover ficha. Estados Unidos ya ha avisado de que la responsabilidad recae en la empresa que crea el modelo si este se descontrola. Para el usuario de ChatGPT el efecto inmediato es sencillo: el salto de generación que se esperaba para octubre tendrá que esperar.