OpenAI se plantea frenar el ritmo de desarrollo de la IA por seguridad

La empresa que encendió la carrera de la inteligencia artificial generativa estudia ahora levantar el pie del acelerador. Según ha publicado Bloomberg, OpenAI se plantea ralentizar el desarrollo de sus sistemas por motivos de seguridad, y su consejero delegado, Sam Altman, confía en que otras compañías del sector tomen el mismo camino.

La información, atribuida a fuentes conocedoras de las conversaciones internas, apunta a que Altman ha trasladado a los empleados que el ritmo de trabajo podría moderarse ante las preocupaciones surgidas en los últimos meses. De hecho, la compañía ya habría desacelerado algunos proyectos y suspendido determinados entrenamientos de modelos por razones de seguridad.

Qué preocupa exactamente

El debate no gira tanto sobre los chatbots que millones de personas usan a diario como sobre la siguiente etapa: los agentes autónomos, sistemas capaces de trabajar por su cuenta durante horas o de forma continuada, encadenando tareas y tomando decisiones con una intervención humana mínima. Cuanto menos supervisión necesita un sistema, más difícil resulta detectar a tiempo cuándo se está desviando de lo que se le pidió.

A ese escenario se suma otra línea de investigación que inquieta a parte de la comunidad científica: los modelos que pueden contribuir a mejorar sus propias capacidades. Varios investigadores llevan tiempo advirtiendo de que ese camino podría acelerar el progreso hasta un punto difícil de vigilar, y algunos sitúan incluso antes de 2030 el momento en que la tecnología podría plantear riesgos serios.

El científico jefe pide coordinación entre empresas

La señal más llamativa no viene solo de Altman. Jakub Pachocki, científico jefe de OpenAI, ha publicado un texto en el que alerta sobre los riesgos asociados al desarrollo de la inteligencia artificial y defiende que las compañías del sector deberían coordinarse para frenar el avance cuando sea necesario.

Esa idea es más compleja de lo que parece. Frenar en solitario tiene un coste competitivo evidente: si una empresa pausa un entrenamiento y sus rivales no, pierde meses de ventaja en un mercado donde la diferencia entre modelos se mide en semanas. De ahí que el planteamiento sea colectivo, con una mayor transparencia sobre los riesgos como paso previo. El problema es que ninguna de esas coordinaciones existe hoy como mecanismo formal y vinculante, más allá de compromisos voluntarios y de la regulación que cada jurisdicción está desplegando por su cuenta, como el reglamento europeo de IA.

Un giro respecto al discurso reciente

El mensaje contrasta con la trayectoria de la propia compañía en los últimos años, marcada por lanzamientos encadenados, acuerdos de infraestructura multimillonarios y una ambición declarada de llegar cuanto antes a sistemas que automaticen la investigación científica. La empresa ha hablado de disponer de un "becario de investigación" con IA y un horizonte en 2028, un objetivo que encaja mal con la idea de pisar el freno.

Conviene tomarlo con cautela: hablamos de deliberaciones internas filtradas a un medio, no de un anuncio oficial con calendario, criterios ni compromisos concretos. No hay detalles públicos sobre qué proyectos se han ralentizado, qué entrenamientos se suspendieron ni durante cuánto tiempo.

A quién afecta

Para el usuario medio, el efecto inmediato sería escaso: los productos que ya están en el mercado siguen funcionando y actualizándose. El impacto real se notaría en el ritmo de aparición de nuevas capacidades, sobre todo en el terreno de los agentes que prometen ejecutar tareas completas en nombre del usuario o de una empresa.

Para el tejido empresarial, el debate sobre la velocidad se cruza con otro que ya está sobre la mesa: el del empleo. Otras compañías del sector han publicado análisis sobre cómo la IA puede transformar el trabajo de oficina en los próximos años, con escenarios muy distintos según a qué ritmo se adopte la tecnología.

Queda por ver si estas declaraciones se traducen en medidas verificables o si se quedan en un cambio de tono. En un sector donde la percepción de seguridad influye en la regulación, en los contratos con grandes clientes y en la propia valoración de las empresas, hablar de prudencia también tiene su recompensa.

Información basada en la publicada por 20minutos a partir de una información de Bloomberg.