Sam Altman señala sus dos mayores miedos con la IA: perder el control y la concentración de poder

El responsable de la empresa que popularizó ChatGPT ha vuelto a hablar de riesgos, pero no de los que suelen ocupar los titulares. Sam Altman, consejero delegado de OpenAI, sostiene que el debate importante no es a qué velocidad avanza la inteligencia artificial ni hasta dónde puede llegar, sino quién acaba teniendo la capacidad de decidir cómo se desarrolla. Lo contó en el podcast del presentador David Senra, en una conversación recogida por 20 Minutos.

Los dos escenarios que le preocupan

Altman resumió sus temores en dos ideas. El primero es lo que llamó “la pérdida del control”: que un sistema se vuelva “demasiado poderoso” y deje de existir una supervisión humana real sobre él. El segundo es que “el poder se centralice demasiado”, ya sea en “una empresa o en un modelo o una persona”.

Para él, ambos desenlaces serían “muy antihumanos”, porque en los dos casos las personas perderían capacidad de decidir sobre su propio futuro. Es decir, tanto da que quien mande sea una máquina fuera de control o un puñado de compañías: el resultado, en su lectura, es el mismo vaciado de autonomía colectiva.

“La sociedad y los modelos van a evolucionar juntos”

Su propuesta, según explicó, pasa por que las decisiones sobre el rumbo de la IA no queden únicamente en manos de las tecnológicas. Defiende que “la sociedad y los modelos van a evolucionar juntos”, una forma de decir que la tecnología debe desarrollarse al mismo tiempo que la gente aprende a convivir con ella y define qué límites y qué usos está dispuesta a aceptar.

Es un planteamiento cómodo para quien dirige una de las empresas señaladas por acumular precisamente ese poder, y conviene leerlo con esa cautela. Pero también encaja con un discurso que Altman lleva tiempo repitiendo: el de repartir la capacidad de decisión en lugar de concentrarla en quien construye los sistemas.

Críticas al catastrofismo del sector

El directivo aprovechó para marcar distancias con la parte de la industria que ha convertido el miedo en argumento principal. Puso como ejemplo advertencias sobre una probabilidad del 25% de “destruir el mundo” o pronósticos de desaparición rápida de la mitad de determinados empleos. A su juicio, ese enfoque no ayuda.

También asumió una parte de responsabilidad: reconoció que en el sector “no han hecho un buen trabajo explicando a la gente cuáles son los beneficios y cómo pueden mitigarse las desventajas”. La autocrítica apunta a un problema de comunicación que afecta a todos los actores, incluido OpenAI.

Un choque de visiones dentro de la industria

Altman añadió que sacrificar libertad a cambio de seguridad le parece un error. Esa posición lo sitúa en un punto distinto al de otros dirigentes del sector más inclinados hacia la regulación estricta y el foco en los riesgos, como Dario Amodei, consejero delegado de Anthropic. La empresa rival de OpenAI ha construido buena parte de su identidad pública alrededor de la seguridad de los modelos y de la conveniencia de marcos normativos más exigentes, y sus productos avanzan en paralelo con acuerdos como la integración de Claude en el CRM de Salesforce.

El matiz importa: Altman no niega que existan peligros reales. Lo que rechaza es que la respuesta consista en concentrar todavía más control en las manos de quienes desarrollan la tecnología. Su conclusión es la contraria: el objetivo debería ser que la IA amplíe la capacidad de decisión de las personas, no que la recorte.

Por qué esto te afecta

Más allá del debate teórico, la discusión sobre quién gobierna la IA se traduce en cosas muy concretas: qué datos se usan para entrenar los modelos, quién fija los límites de lo que pueden hacer, qué herramientas llegan al público general y cuáles quedan reservadas a unas pocas empresas. Con la Unión Europea aplicando por fases su reglamento de IA y con los grandes modelos integrándose ya en el software de uso diario, el reparto de ese poder deja de ser una conversación de laboratorio.

Declaraciones recogidas del podcast de David Senra y publicadas por 20 Minutos.