El robotaxi y la pregunta
Waymo declaró en febrero una flota de cerca de 3.000 vehículos y más de 400.000 viajes semanales. Para apoyar el funcionamiento de esa flota mantenía unos 70 agentes de asistencia remota activos en cada momento.
La cifra resulta todavía más llamativa cuando se conoce su función. Estos agentes no conducen los coches a distancia ni los vigilan de forma permanente. Entran en escena cuando un vehículo necesita información adicional para interpretar una situación. El agente observa el contexto y aconseja. Después, el propio sistema decide si utiliza o descarta esa recomendación.
Madrid puede que empiece pronto a convivir con esta tecnología. Uber, WeRide y AVOMO mantienen el plan de poner en marcha el primer piloto comercial de robotaxis en la comunidad antes de que termine 2026.
Un robotaxi gira, señaliza, acelera y frena. Todo eso forma parte de la tarea de conducir. Pero también tiene que valorar a qué velocidad acercarse a un paso de peatones, qué margen de seguridad necesita en autopista o cómo reaccionar cuando alguien invade la calzada. En esos momentos ya está aplicando criterio.
El pasajero es el que elige el destino. Los diseñadores, la empresa y los reguladores son los que definen el marco de actuación y el agente remoto es el que aporta información cuando es necesaria. Cuando llega el momento concreto, el vehículo actúa. Si no es el pasajero el que decide y tampoco el agente remoto, ¿quién es el que está tomando las decisiones importantes? ¿Quién está aplicando realmente el criterio?
El resumen que parecía perfecto
Algo similar me ocurrió en una situación bastante menos espectacular. Le pedí a una IA que resumiera una página de texto en media página. Lo hizo muy bien. El resultado estaba bien redactado, conservaba las ideas principales y tenía exactamente la extensión que le pedí. O eso creí.
Al revisarlo con más atención descubrí que había omitido una idea que para mí era la esencial. El texto no contenía errores y la selección parecía razonable, pero la selección no coincidía con la mía. ¿Por qué había conservado esas otras ideas y no la que para mí era el fundamento de todo? ¿Quién había decidido lo que había que meter en el resumen y lo que no? Yo no.
Lo que parecía una tarea, acortar un texto, contenía una decisión de criterio: determinar lo que se podía mantener y lo que podía desaparecer. La IA había hecho una primera selección. Yo conservaba la última decisión, podía revisar y ratificar su criterio o aceptarlo por defecto. Ese por defecto es el quid de este artículo.
La deuda de criterio
Cada vez oímos hablar más de la deuda cognitiva que puede aparecer con algunos de los usos de la IA. Delegamos parte del esfuerzo de comprender, recordar o elaborar y, si dejamos de ejercitar esas capacidades, con el tiempo podemos perder soltura para hacer ese trabajo por nosotros mismos. Creo que junto a ella aparece otra deuda menos visible y especialmente importante cuando pasamos de las tareas a las decisiones: la deuda de criterio.
La deuda de criterio se acumula cuando dejamos de comprobar lo que la IA ha considerado importante, lo que ha descartado y con qué prioridades ha llegado a una conclusión. Su origen resulta paradójico porque la IA funciona bien muchas veces, casi siempre. Cada buen resultado que nos da aumenta nuestra confianza. Cuanto más confiamos, menos revisamos y cuanto menos revisamos, menos ejercitamos nuestro propio criterio.
Llega el día en el que tenemos poco tiempo, o nos sentimos más perezosos, y damos por bueno un resumen después de una lectura rápida y, a veces, sin lectura siquiera. Otro día pedimos cinco alternativas, solicitamos a la IA que las ordene y escogemos la primera porque su razonamiento parece convincente. El ahorro de tiempo es real. Nos viene fenomenal y nos sentimos felices de contar con un asistente fiel e inteligente.
Los intereses de la deuda aparecen cuando no revisamos. Damos por bueno el resumen y descubrimos más tarde que ha dejado fuera nuestra idea central. Aceptamos una opción y solo después vemos que respondía a prioridades distintas de las nuestras. O la IA comete un error y ya no estamos acostumbrados a buscarlo. Ese día tenemos que volver al documento original, reconstruir el razonamiento o explicar una decisión que, al revisarla, ni siquiera compartimos. Costoso, muy costoso. Y cada vez nos cuesta más porque hemos ido perdiendo la práctica. Esos son los intereses de nuestra deuda de criterio.
La deuda de criterio se contrae cuando la confianza sustituye a la revisión.
Del individuo a la empresa
Reid Hoffman, cofundador de LinkedIn y coautor de Superagency, propone una visión optimista. La IA puede ampliar nuestra agency, es decir, nuestra capacidad de comprender el entorno, elegir y actuar. Cuando esa capacidad se extiende y se combina dentro de un colectivo, el efecto cambia de escala. Hoffman llama superagency a esa amplificación compartida.
Hasta ahí, Hoffman. A partir de aquí añado mi reflexión: si esa capacidad ampliada se apoya en respuestas que aceptamos por defecto, también puede cambiar de escala la renuncia a ejercer el criterio. La deuda ya no afectaría solo a una persona. Podría incorporarse a la forma de decidir de todo un colectivo.
El aumento en la escala sugiere enseguida una pregunta. Pensemos en una pyme de veinte personas que utiliza un mismo sistema para resumir documentos, ordenar prioridades, valorar alternativas y recomendar decisiones. Si cada persona aplica su propio criterio y su propio contexto, la empresa amplía su capacidad. Si todos aceptan las respuestas por defecto, la pyme habrá cedido a la IA una parte de su capacidad de decisión.
Una persona que deja de revisar contrae deuda de criterio. Una empresa que convierte esa práctica en rutina incorpora la deuda a su sistema de decisión.
En el tercer artículo de esta serie, PIENSAS TÚ, veremos qué se pierde exactamente cuando dejamos de aplicar nuestro criterio. El trabajo puede seguir saliendo bien mientras nuestro criterio deja de ejercitarse, pero ¿qué pasará el día en que la decisión no sea correcta y preguntemos quién la tomó y por qué?
En el cuarto y último artículo trasladaremos la pregunta a la empresa y abordaremos qué ocurre cuando esa forma de decidir se incorpora a su sistema.
La decisión escondida
Podemos empezar a recuperar el criterio, que quizá ya estamos perdiendo, con una pregunta muy sencilla. Cuando una respuesta de la IA vaya a convertirse en una decisión, preguntémonos: ¿a qué ha dado la IA más peso? ¿Es esa mi prioridad?
En un resumen la IA puede haber dado más peso a la brevedad que a los matices. En una recomendación puede haber privilegiado el coste frente a la flexibilidad o la velocidad frente al riesgo. Cada respuesta contiene pequeñas decisiones de este tipo. Podemos delegar muchas de ellas. Conservar el criterio significa decidir qué prioridades mandan, qué riesgos aceptamos y si el resultado merece convertirse en nuestra decisión. Esa última decisión es la que no debería producirse por defecto.
Pensemos ahora en la última decisión que hemos tomado con ayuda de una IA. Si mañana tuviéramos que defenderla sin mostrar su respuesta, ¿podríamos explicar por qué la aceptamos en su momento y qué nos habría llevado a rechazarla?
La IA puede darte una respuesta. Convertirla en decisión sigue siendo cosa tuya.
Para empezar por el principio
Parte 1 · ¿Piensas tú o dejas que te piensen? La escalera del criterio.