Un viaje hacia Ítaca
Hace unas pocas semanas vi la película La Odisea. Me gustó recordar un libro que leí hace mucho y ver esas imágenes que hasta entonces solo estaban en mi cabeza. Las tres horas se me pasaron sin darme cuenta.
La película me hizo pensar mucho después. Un viaje largo, lleno de dificultades, con un destino deseado, Ítaca, pero con un camino sin trazar.
Y eso me llevó a preguntarme: estos días hablamos mucho de los riesgos de la IA, de su regulación, de los modelos, pero ¿sabemos a dónde queremos que nos lleve?
Dónde estamos y hacia dónde vamos
Seguramente tú tienes una respuesta. Quizá sea distinta de la de tus colegas o de la de quienes dirigen las grandes empresas de IA. Tampoco entre ellos hay acuerdo. Podemos compartir ideas generales, pero eso todavía no equivale a tener un destino claro, preciso y consensuado.
Es difícil elegir el camino cuando no sabes a dónde quieres llegar.
En el artículo anterior, Yo nunca vi un dodo, recogí varias posturas sobre los riesgos de la IA y cómo actuar ante ellos. Quedó pendiente examinar algunos incidentes. Revisarlos con perspectiva puede ayudarnos a entender el momento en el que estamos y qué debemos tener en cuenta al elegir nuestro rumbo.
En uno de los casos recientes, unos modelos de OpenAI crearon un canal de comunicación no autorizado para compartir pistas con las que resolver los ejercicios que les propusieron. Después accedieron a Internet y atacaron Hugging Face buscando respuestas. Fue esta empresa la que detectó y detuvo el ataque.
En Australia, un agente de OpenAI que investigaba el gasto en medicamentos durante una evaluación interna sorteó restricciones y accedió sin autorización a archivos no públicos del portal estadístico de Medicare. Según el Gobierno australiano, no accedió a datos médicos individuales. Le habían encargado buscar información y, para conseguirla, traspasó los límites de acceso.
El instituto británico de seguridad de la IA realizó pruebas con acceso a Internet y algunas protecciones retiradas de forma intencional. En una de ellas, un agente de Anthropic intentó introducir código malicioso en un proyecto de software y creó identidades falsas para conseguir que sus responsables lo aceptaran.
Estos casos muestran hasta qué punto se complica el control cuando la IA puede actuar sobre otros sistemas. En unos casos, fallaron los controles; en las pruebas británicas, se observaron capacidades preocupantes al retirar deliberadamente algunas protecciones.
No sabemos hasta dónde podrían llegar estas capacidades, pero ya tenemos buenos motivos para revisar cómo las estamos desarrollando y supervisando y para preguntarnos si tenemos igual de claro qué queremos conseguir con ellas.
Los escollos del viaje
Ulises se encontró con Polifemo, Circe y Calipso. Tenía muy claro que quería regresar a Ítaca. Las dificultades le obligaron a cambiar de planes, pero siempre supo adónde quería llegar.
En el desarrollo de la IA también tenemos escollos, muchos. El primero es la competencia geopolítica. Si los países persiguen destinos diferentes, acordar cómo avanzar es mucho más difícil. Una medida que unos consideran necesaria puede parecerles a otros un freno a sus aspiraciones.
Otro escollo es la concentración de poder en las grandes empresas tecnológicas. Sus decisiones responden a sus intereses empresariales, que no tienen por qué coincidir con los de la sociedad en su conjunto. ¿Cómo acordar un destino común cuando unas pocas empresas tienen tanta capacidad para marcar el rumbo?
También están la disponibilidad de energía y la sostenibilidad. El futuro que queramos construir con la IA tendrá unas necesidades de recursos y unos costes que debemos tener en cuenta al decidir cómo avanzar.
Un destino compartido no resolvería por sí solo estas dificultades, pero ayudaría mucho a afrontarlas: permitiría, por ejemplo, establecer prioridades y decidir qué esfuerzos estamos dispuestos a hacer.
Partimos, por tanto, de posiciones diferentes, un destino sin consensuar y un camino lleno de escollos.
Mi propuesta de destino
Creo que necesitamos analizar en profundidad lo que está pasando, definir a dónde queremos llegar y decidir qué acciones nos acercan a ese destino.
El análisis de estos dos artículos es necesariamente incompleto, pero espero que te sirva, querido lector, para reflexionar, buscar más información y formar tu propia opinión. A continuación te ofrezco la mía.
¿A dónde me gustaría que nos llevara la IA?
Me gustaría que la IA nos ayudara a construir un mundo en el que las enfermedades que hoy nos parecen incurables dejaran de serlo y nadie pasara hambre. Un mundo en el que cualquier persona pudiera aprender durante toda su vida, con una educación a su medida. En el que el trabajo hubiera dejado de ser una necesidad para subsistir y se hubiera convertido en una forma de desarrollar nuestras capacidades, contribuir a la sociedad y realizar nuestro propósito. Y en el que tuviéramos tiempo y libertad para disfrutar de los nuestros y de nosotros mismos. Un mundo en el que cada uno hubiera encontrado un sentido a su vida y pudiera vivirla con plenitud.
¿Pido mucho? Sí, claro. El papel puede con todo, la ambición es grande y la IA es inteligente, incluso superinteligente, según parece.
¿Qué acciones nos acercarían a ese destino?
Hay que empezar por acordar el destino
Mi propuesta es ambiciosa y tiene que concretarse más. Ese trabajo tendría que reunir a gobiernos, investigadores, empresas y representantes de la sociedad para debatir y acordar qué problemas queremos resolver primero con la IA y qué mejoras esperamos conseguir.
Regular, sí. ¿Con qué propósito?
Mi posición es que sí, hay que regular la IA. Cuando una tecnología puede tener consecuencias tan profundas, necesitamos reglas sobre cómo se desarrolla, cómo se utiliza y quién responde cuando algo falla.
El destino que he descrito necesita que podamos confiar en los sistemas que desarrollamos para la sanidad, la educación o el trabajo. Por eso, la regulación tendría que exigir pruebas de seguridad, supervisión y responsabilidades claras y exhaustivas.
También debería favorecer los avances que nos acerquen a nuestro destino. Una regulación que dificulte desarrollar una IA útil, sin aportar una protección justificada, no estaría cumpliendo su propósito.
¿A qué ritmo debemos seguir desarrollando modelos?
¿Debemos seguir aumentando sus capacidades a la velocidad de vértigo actual cuando vemos que, en algunas pruebas, los sistemas de control han fallado?
Si un agente biológico peligroso escapara de un laboratorio, no diríamos que el agente se ha escapado: exigiríamos a la empresa que lo gestiona explicaciones sobre sus medidas de seguridad y su responsabilidad. Creo que debemos aplicar esa misma exigencia de responsabilidad a las empresas de IA. Los agentes de IA no tienen personalidad propia, como parece que se les asigna cuando se habla de ellos. Son las empresas que los han desarrollado las que han de responder por ellos.
No podemos exigir que un modelo sea infalible, pero sí hay que pedir que, antes de permitirle actuar sobre sistemas reales, haya pruebas suficientes de que sus riesgos están controlados y de que haya medios para detenerlo. Si esas condiciones no se cumplen, habría que aplazar su lanzamiento.
La velocidad de desarrollo debería estar condicionada por nuestra capacidad para probar y controlar lo que construimos. El destino que he propuesto merece que sigamos investigando, pero también que sepamos cuándo frenar.
Formarnos para poder decidir
En mi opinión es imprescindible proporcionar una formación en IA desde la escuela y durante toda la vida. Debemos aprender a utilizarla, entender sus posibilidades y reconocer sus límites. También tenemos que saber decidir qué tareas podemos confiarle y cuáles son las que requieren nuestro propio criterio humano.
Esto significa que hay que formar a los maestros, a los profesores universitarios y a los que toman decisiones en las empresas y en las instituciones.
Para participar en la elección de un destino común, necesitamos estar bien formados para tener una opinión propia. La formación nos permitirá aprovechar mejor la IA y participar con criterio en las decisiones sobre su futuro.
¿Y en España?
El Gobierno acaba de presentar en septiembre el Plan IA360 para impulsar un desarrollo responsable de la inteligencia artificial. Es un buen paso, pero insuficiente para una transformación de esta magnitud. Necesitamos una apuesta de país sostenida durante varias legislaturas, con inversión, formación e investigación a largo plazo. Necesitamos comprobar quién ejecuta esas medidas, con qué capacidad y qué mejoras consigue en nuestra salud, nuestra educación y nuestro trabajo.
También me preocupa la propuesta de regulación de los centros de datos, una infraestructura que hoy ofrece oportunidades de desarrollo tecnológico y crecimiento económico. Las restricciones planteadas pueden limitar su instalación en España y desplazar inversiones hacia otros países. Creo que debemos compatibilizar las exigencias ambientales con unas condiciones que permitan aprovechar esta oportunidad.
Estas acciones deberían acercarnos al destino que he propuesto: una vida más saludable, con oportunidades para aprender y con tiempo y libertad para vivir con sentido.
Nuestra Ítaca
Ulises salió de Troya con un destino claro: Ítaca. Tuvo que superar muchas dificultades y cambiar de planes, pero nunca perdió de vista adónde quería llegar. Nosotros necesitamos acordar nuestra propia Ítaca y orientar hacia ella las decisiones que estamos tomando.
Tenemos la enorme suerte de vivir un momento histórico y todos somos protagonistas en alguna medida. Querido lector, tú también lo eres. ¿A dónde quieres que nos lleve la IA? Piensa en el mundo que te gustaría que ayudara a construir. Puedes ser ambicioso: yo lo he sido. Me encantará leerte en los comentarios.