¿Quién legitima la ética de la IA?
Todos piden límites. ¿Quién tiene la auctoritas para ponerlos?
Hay una coincidencia que debería sorprendernos más de lo que lo hace.
En los últimos meses, tres voces que no comparten casi nada han dicho casi lo mismo sobre la inteligencia artificial. León XIV, el primer Papa que ha decidido pasar de comentar la IA a intervenir en su gobernanza. Yoshua Bengio, uno de los científicos que la hicieron posible y que hoy la describe como el mayor peligro al que se enfrenta la humanidad. Y Javier Sampedro, que desde una posición explícitamente atea y laica desconfía de cualquier moral pública fundada en un altar.
Un Papa, un premio Turing y un columnista ateo. Y, sin embargo, el mismo diagnóstico: la IA necesita límites, y lo que de verdad hay que vigilar es el poder que concentra.
Sería cómodo quedarse en la foto del consenso. Sería un error. Porque ese acuerdo, en cuanto se rasca, deja al descubierto la disputa que de verdad define este momento: no lo que hay que hacer con la IA, sino quién tiene derecho a decidirlo.
El consenso que no une
Vale la pena medir cuánto coinciden, porque no es poco.
El Vaticano ha dejado de emitir comunicados prudentes. Con Magnifica Humanitas (25 de mayo de 2026), León XIV da un paso distinto: ya no comenta la IA, interviene en su gobernanza. El aviso es claro:
Existe el riesgo de que la IA alimente el paradigma tecnocrático, que pretende resolver todos los problemas mediante la técnica, subordinando la dignidad humana y la fraternidad a la eficiencia.
No es retórica. Es una declaración de intenciones: la Iglesia nombra aliados y adversarios, y reclama un sitio en la mesa donde se decidirá el futuro de la tecnología.
Bengio llega a una conclusión parecida desde las antípodas. Su preocupación no es teológica, sino de concentración de capacidad:
La inteligencia da poder.
Y si la inteligencia da poder, una inteligencia artificial sin contrapesos es, sencillamente, poder sin contrapesos. De ahí su defensa de la evaluación independiente y de límites que no dependan de la buena voluntad de quien construye los sistemas.
Sampedro, por su parte, comparte el fondo: regulación civil, freno a la vigilancia masiva, líneas rojas ante las armas autónomas. Coincide en el destino. Discrepa, y mucho, en el punto de partida.
La fractura: ¿desde qué autoridad?
Y aquí se abre la grieta. Los tres quieren límites, pero cada uno los funda desde lugares distintos, y esos lugares no son compatibles.
León XIV los ancla en una antropología con respaldo religioso: la dignidad humana y la fraternidad como bienes que preceden a cualquier cálculo de eficiencia. Bengio los ancla en el rigor científico y la evaluación independiente: lo que se puede medir, auditar y demostrar. Y Sampedro rechaza de plano el primer anclaje con una frase que es, en realidad, todo un programa:
No todo el mundo está de acuerdo en lo que dice su Dios.
Y aquí está el quid de la cuestión. La pelea por la ética de la IA no es una pelea de contenidos —en el contenido hay un acuerdo asombroso— sino de autoridad. ¿Desde dónde se fundan los límites? ¿Desde una verdad revelada, desde la ciencia, desde el acuerdo civil?
Por qué la legitimidad sí importa
Podría parecer una discusión de salón. No lo es. En una sociedad plural, las reglas que solo convencen a los que ya creen en lo mismo no son reglas: son doctrina. Para que una norma obligue a todos, tiene que poder argumentarse sin fe previa —ni religiosa, ni científica, ni política.
Por eso el riesgo no es que la IA carezca de ética. Es que deleguemos la legitimidad para fijarla en una sola fuente —la que sea— y demos por buena su autoridad sin haberla sometido al único filtro que la hace vinculante para todos.
Del púlpito a la ley
Y aquí el viaje aterriza en un actor del que las tres voces hablan poco, pero que es el único capaz de cerrar el círculo: el Estado.
Los romanos tenían dos palabras para lo que nosotros aplastamos en una sola. Auctoritas era la autoridad reconocida, la que se gana y se concede: la del que merece ser escuchado. Potestas era el poder efectivo, la capacidad de obligar. Y las tres anclas tienen mucha de la primera y nada de la segunda: el Vaticano persuade, la ciencia demuestra, el columnista argumenta, pero ninguno puede obligar. Solo el Estado tiene potestas: convierte el lenguaje civil compartido en norma exigible, con coerción legítima detrás.
Y eso es exactamente lo que acaba de ocurrir en España: el 26 de mayo de 2026, el Consejo de Ministros aprobó el proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial. El rango no es un detalle administrativo: ley orgánica es el que se reserva a lo que toca derechos fundamentales y exige mayoría absoluta en el Congreso. Es decir, cuando la ética de la IA se vuelve por fin vinculante en España, no se ancla en la moral de ninguna iglesia ni en la palabra de los expertos, sino en el suelo constitucional y civil. La frase de Sampedro, hecha ley.
Pero la ley ya trae su primera contradicción incorporada: exige transparencia a empresas y organizaciones, amenaza con sanciones de hasta 35 millones de euros, y se reserva para la propia Administración un trato distinto —apercibimientos en lugar de multas. Exigente fuera, indulgente consigo misma. Es el primer síntoma de lo que viene después.
La pregunta que ninguna ley contesta
Llevo años hablando de esto con gestores públicos y con empresas que están implementando IA ahora mismo. Y la pregunta que más repiten no es “¿qué hace bien la IA?”, sino “¿quién se hace responsable si sale mal?”. Es exactamente la misma pregunta que este artículo, formulada desde la calle.
Sería bonito terminar aquí, con el Estado como árbitro que pone orden donde Papas y científicos solo podían opinar. Pero sería volver a caer en la trampa del principio: confundir quién puede obligar con quién tiene razón. Las tres voces tenían auctoritas sin potestas —podían persuadir, no obligar—. El Estado es lo contrario: tiene toda la potestas, pero su auctoritas es justo lo que está en cuestión.
Las tres voces tiene auctoritas sin potestas.
El Estado es lo contrario: tiene toda la potestas.
Porque el Estado obliga, sí. Pero obligar no es zanjar. Una ley resuelve quién manda; no quién acierta. Y el Estado tampoco es un árbitro neutral que flota por encima de la disputa: es también un jugador, con sus intereses y sus presiones.
Así que la pregunta vuelve, intacta, al lector, y conviene formularla con las dos palabras romanas: ¿la potestas del Estado tiene también auctoritas, o es solo fuerza con rango de ley? ¿A quién representa ese Estado cuando legisla? ¿Escucha a las tres voces —la moral, la científica, la civil— o a las que más cerca tiene? ¿Es esta ley concreta la traducción fiel de nuestro lenguaje común, o solo la versión que le convino a quien la escribió?
No tengo la respuesta.
La ley dice quién puede imponer una decisión. Pero no demuestra que esa decisión sea la correcta. Eso seguimos teniendo que pensarlo nosotros.