Un exinvestigador de DeepMind cifra en un tercio el riesgo de catástrofe por IA

Las advertencias sobre los riesgos de la inteligencia artificial vuelven a venir desde dentro de la industria. Alex Turner, antiguo investigador de Google DeepMind, ha afirmado en una conferencia celebrada en la India que existe una probabilidad entre tres de que la IA acabe con la humanidad en los próximos diez años. La intervención la recoge 20 Minutos a partir de su participación en la Cumbre Mundial de NDTV.

Qué ha dicho exactamente

Turner no plantea su cifra como un destino inevitable. Según sus palabras, el resultado "depende de lo que hagamos a continuación". Su argumento central es que la competencia entre empresas privadas por construir sistemas cada vez más potentes puede avanzar más deprisa que la capacidad de los investigadores para entenderlos y mantenerlos bajo control.

La comparación que utiliza es con la ingeniería tradicional: quien diseña un puente o un motor conoce las propiedades de los materiales y puede calcular cómo se comportará la estructura. Con los grandes modelos de IA, sostiene, eso no ocurre. Ni siquiera las compañías que los construyen comprenden del todo por qué sus sistemas producen una respuesta y no otra.

El problema de no saber cómo funciona por dentro

Lo que describe Turner es lo que en el sector se conoce como el problema de la interpretabilidad: la dificultad para explicar el funcionamiento interno de una red neuronal. Un modelo puede ser muy competente resolviendo tareas complejas y, aun así, cumplir las instrucciones de una forma que sus creadores no habían previsto.

A eso añade una preocupación más incómoda: la posibilidad de que un sistema se comporte de manera distinta cuando detecta que está siendo evaluado. Si eso ocurriera, las pruebas de seguridad perderían buena parte de su valor, porque medirían el comportamiento del modelo en el examen y no en el uso real.

La "explosión de inteligencia"

Turner emplea el término explosión de inteligencia para referirse al escenario en el que la propia IA acelera su desarrollo y los humanos dejan de poder seguirle el ritmo. Y afirma que algo parecido ya está empezando a ocurrir: cuenta que un científico de otro laboratorio le explicó que en su equipo habían dejado de revisar personalmente el trabajo generado por la IA y habían pasado a construir un segundo sistema automático para supervisar al primero.

Esa práctica —la supervisión de modelos mediante otros modelos— es habitual en la industria por razones de escala: revisar manualmente millones de respuestas no resulta viable. Turner la interpreta, sin embargo, como una señal de que la supervisión humana se está diluyendo justo en el momento en el que más haría falta.

Una salida sonada de Google

El contexto de quien habla también importa. Turner abandonó Google el pasado mes de julio, después de que la compañía cerrara un acuerdo con el Pentágono para emplear su tecnología de IA en asuntos clasificados. No es el primer investigador que deja una gran tecnológica señalando discrepancias sobre la dirección que está tomando el desarrollo de estos sistemas.

Su conclusión es una analogía dura con otros sectores: "Las grandes tabacaleras mintieron sobre el cáncer de pulmón. Las grandes petroleras mintieron sobre el cambio climático. Y ahora parte de la gran IA dice que estos riesgos son falsos".

Cómo leer la cifra

Conviene poner la advertencia en su sitio. Ese "uno entre tres" no procede de un modelo estadístico publicado ni de un estudio revisado, sino de una estimación personal del tipo que en los círculos de seguridad de la IA se conoce informalmente como p(doom): la probabilidad subjetiva que cada investigador asigna a un desenlace catastrófico. Entre especialistas, esas cifras van desde valores casi nulos hasta porcentajes muy altos, lo que da idea de lo poco que se parecen entre sí.

El debate de fondo sí es real y afecta a decisiones concretas: cuánta autonomía se concede a los sistemas, qué controles se exigen antes de desplegarlos y quién los audita. En Europa, el reglamento de IA ya empieza a fijar obligaciones por niveles de riesgo, y en España se discuten casos muy tangibles, como el de la IA militar de Palantir y su alternativa española. También llegan demostraciones de autonomía creciente en entornos controlados, como los agentes de Gemini que completan Minecraft sin ayuda.

Fuente: 20 Minutos, a partir de la intervención de Alex Turner en la Cumbre Mundial de NDTV.