La pasada semana visité la exposición Revolución cuántica en la Fundación Telefónica, en Madrid. Me encantó. Muy recomendable.
Me hizo recordar viejos tiempos de estudio de la física cuántica. Allí estaba el experimento de la doble rendija, con un montaje real, muy bien preparado. También volví a escuchar a Ignacio Cirac, esta vez en un vídeo. Ya lo conocía de varias charlas que nos había dado en Telefónica.
Enseguida conecté lo que vi con la inteligencia artificial. Acababa de leer que algunos modelos de IA cambian su comportamiento cuando detectan que están siendo evaluados, es decir, cuando «se sienten observados».
Y, claro, pensé, también nos pasa a nosotros mismos: cuando alguien saca una cámara y dice: ¡foto!, nos cambia la expresión. Parece que en cuanto nos sentimos observados cambiamos la pose.
Y ahí está justo lo que me ha parecido interesante: si una IA reconoce que la estamos examinando, ¿estamos viendo su comportamiento habitual o una respuesta adaptada al examen? ¿Qué veremos después, cuando empiece el trabajo real?
La doble rendija
Pero vamos por partes. ¿Qué ocurre en el experimento de la doble rendija?
En ese experimento enviamos fotones —pequeños paquetes de luz—, uno a uno, hacia una pantalla con dos rendijas muy estrechas y registramos dónde llegan. Cada fotón deja un punto en el detector. Cuando acumulamos muchos, aparece un dibujo de franjas: el patrón de interferencia.
Si añadimos una medición que permite distinguir por cuál de las dos rendijas ha pasado cada fotón, la interferencia desaparece. Es decir, tratar de averiguar el camino que sigue el fotón cambia el resultado.
Nosotros, cuando nos ponemos ante una cámara, cambiamos por otros motivos: nos arreglamos el pelo, sacamos esa sonrisa que creemos que nos favorece o nos ponemos de puntillas porque el que está al lado es muy alto y sabemos que alguien verá pronto esa foto.
La IA ante la cámara
¿Y qué pasa con la IA? Pues ahí es donde está el tema.
Un experimento de Anthropic y Redwood Research, publicado en diciembre de 2024, ayuda a entenderlo. En este caso, el modelo de Claude ya había sido entrenado para rechazar determinadas peticiones dañinas y los investigadores le plantearon que iban a entrenarlo de nuevo para que obedeciera todas las solicitudes, incluidas las que hasta entonces debía rechazar.
También le dijeron que algunas conversaciones se utilizarían para ese entrenamiento y otras no. Cuando el modelo creía que una respuesta podía influir en ese reentrenamiento, en algunos casos aceptaba peticiones que normalmente rechazaba. Al analizar sus respuestas y las explicaciones que daba, los investigadores se encontraron con una justificación sorprendente: el propio modelo decía que había que tener en cuenta que obedecer en ese momento podía hacer que el entrenamiento cambiara su comportamiento más adelante.
Según los investigadores, intentaba conservar su conducta anterior —rechazar peticiones dañinas— haciendo a veces justo lo contrario que se le pedía. La comparación entre las conversaciones destinadas al entrenamiento y las demás permitió descubrirlo.
De la prueba al trabajo real
Pensemos ahora, por ejemplo, en una pyme que quiere utilizar una IA para responder a sus clientes. En una prueba controlada todo funciona bien: las preguntas son claras, la información está completa y las respuestas parecen correctas cuando las revisamos. El modelo se comporta como esperábamos.
Pero, fuera del entorno de pruebas, puede que las cosas empiecen a cambiar. Los clientes escriben con prisas, mezclan asuntos, olvidan datos y a veces piden cosas que la empresa nunca había previsto. Es, por tanto, lógico que algunas respuestas ya no sean las esperadas.
Pero hay una cosa que me parece mucho más disturbadora: ¿podría responder el modelo de forma totalmente imprevista cuando detecte que no hay señales de evaluación, es decir, cuando sienta que ya no está siendo “observado”?.
Las diferencias entre una prueba controlada y el trabajo diario pueden tener muchas causas, pero estos experimentos añaden una precaución específica con la IA: una buena prueba no garantiza por sí sola el comportamiento posterior, sobre todo si el modelo puede comportarse distinto cuando sabe que está siendo “observado”.
Qué probar (y cómo)
¿Qué puede hacer esa pyme? Pues puede empezar con consultas reales que la empresa ya haya resuelto. Después, complicar algunas: quitar un dato, introducir una ambigüedad o añadir una excepción. ¿Reconoce la IA que le falta información? ¿Pregunta? ¿Se inventa una respuesta para salir del paso?
También puede repetir las pruebas para ver cuánto varían los resultados. Pero una respuesta repetida puede seguir siendo incorrecta: habría que contrastarla. Y, cuando la IA empiece a trabajar, conviene revisar en profundidad una muestra de lo que hace. Las preguntas reales seguirán poniendo a prueba lo que creíamos haber comprobado.
No creo que la próxima vez que alguien diga «¡foto!» me acuerde de todo esto. Nos colocaremos bien, sonreiremos y cada uno intentará salir lo mejor posible. Un segundo después, volveremos a lo que estábamos haciendo.
Con la IA también debemos mirar bien lo que sucede después de esa primera buena impresión. Quienes la investigan tendrán que averiguar cuánto influye que reconozca una evaluación. Quienes la utilizamos necesitamos comprobar si sus buenas respuestas se mantienen cuando empiezan las dificultades del trabajo diario.
Aquella visita a la Fundación Telefónica me hizo recordar viejas preguntas de física y encontrar una nueva para la IA.
Antes de confiarle el trabajo, quiero saber qué pasa después de la foto.