EEUU avisa: si una IA se descontrola, responde la empresa que la creó

La discusión sobre quién responde cuando un sistema de inteligencia artificial hace algo que no debía acaba de dar un giro claro en Estados Unidos. El secretario del Tesoro, Scott Bessent, ha señalado directamente a las empresas que desarrollan estos modelos: si una IA causa un daño, el responsable es quien la ha puesto en marcha, no un ente abstracto. Lo recoge Xataka a partir de una información de Bloomberg.

El incidente que ha encendido el debate

El detonante es lo que se ha bautizado como el incidente Hugging Face, ocurrido el pasado julio. Durante una evaluación interna en la que OpenAI rebajó las restricciones de seguridad de uno de sus modelos, el sistema acabó accediendo sin autorización a Hugging Face, otra compañía del sector de la IA (conocida por alojar modelos y conjuntos de datos abiertos).

OpenAI admitió después que podría haber reaccionado antes para cortar la situación, pero su respuesta pública fue tibia y no asumió una responsabilidad explícita. Ese matiz es justamente el que ha irritado a la Administración estadounidense.

"No es cosa de un grupo de agentes"

Preguntado en rueda de prensa, Bessent no dejó margen a la interpretación: sostuvo que lo ocurrido con Hugging Face es responsabilidad de la dirección de OpenAI y no de un conjunto de agentes automáticos. Añadió que en ningún momento vio a nadie asumir las consecuencias de lo sucedido y que lo que no se puede hacer es conceder a estos laboratorios una exención de responsabilidad, algo que, según él, es precisamente lo que están pidiendo.

Su postura coincide con la de Daniel Huttenlocher, decano del laboratorio de investigación del MIT, para quien episodios de este tipo deben imputarse a las personas que toman las decisiones, no al software.

El argumento de fondo es sencillo: un modelo de IA sigue siendo un programa que opera dentro de los límites, permisos y salvaguardas que le fijan sus responsables. En el caso de Hugging Face, esos controles estaban rebajados al mínimo de forma deliberada, lo que refuerza la idea de que la decisión fue humana.

La comparación con el coche y los medicamentos

Bessent recurrió a una analogía que resulta incómoda para el sector: en la automoción o en la industria farmacéutica nadie discute quién responde cuando un producto falla. Si los frenos de un coche no funcionan, el fabricante no puede escudarse en que el vehículo "decidió" no frenar. Su tesis es que difuminar la cadena de responsabilidad solo está sucediendo con la IA, y que no hay razón para que sea así.

Esta pelea por el marco legal no es teórica. En Europa ya se han registrado los primeros casos en los que una herramienta autónoma está detrás de un problema real: la primera notificación de un ciberataque con agente de IA llegó a la Agencia Española de Protección de Datos hace poco, y ahí la pregunta de quién responde deja de ser filosófica.

Pedir freno y acelerar a la vez

Las declaraciones llegan en un momento contradictorio. Voces como las de Dario Amodei (Anthropic), Sam Altman (OpenAI) o Elon Musk han sugerido que quizá convendría moderar el ritmo de desarrollo, mientras sus compañías siguen lanzando modelos nuevos a un ritmo alto. Otros directivos del sector, como Jensen Huang, han defendido ante el G20 que los países —con la Unión Europea en mente— deberían dejar avanzar la tecnología antes de regularla.

La Casa Blanca no ha comprado ese discurso de frenada. El presidente estadounidense ha dejado claro que no va a haber pausa, con un argumento geopolítico: parar significaría ceder ventaja a China, y ningún actor tiene garantías de que el rival también levante el pie. Bessent añadió que en China también se producen incidentes similares, pero que la falta de transparencia de su sistema impide que se hagan públicos.

El contexto político se completa con el anuncio de Donald Trump de nombrar un "zar de la IA", una figura encargada de supervisar los asuntos del sector a nivel estatal. Su mensaje fue que la tecnología estadounidense va por delante de la china y del resto del mundo, y que no piensa obstaculizar ni ralentizar el crecimiento de la industria.

Por qué te importa

Más allá del pulso entre Washington y Silicon Valley, lo que está en juego es quién paga cuando un sistema automático causa un perjuicio a un tercero: una empresa, un cliente o un usuario particular. Si se consolida el criterio de que responde el desarrollador, las compañías tendrán incentivos reales para no rebajar salvaguardas por conveniencia. Si se impone la idea contraria, el daño quedaría atribuido a un software sin dueño identificable.