Ordenador dice que no

Resumen

Esta mañana disfruté de mi paseo en bici por un carril bici casi vacío, con unos rayos de sol de postal iluminando el rocío sobre los campos. ¿Dónde estaban todos los demás ciclistas? Sospecho que tiene algo que ver con las populares apps del tiempo. Me llama la atención lo mucho que los ordenadores ya controlan la vida de la gente.

Texto completo

Al parecer, había posibilidad de lluvia esta mañana, según la app del tiempo del iPhone. Yo no vi caer ni una gota, pero ese diminuto icono de nube con lluvia en el móvil hizo que menos gente saliera a pedalear.

Claro, lo entiendo: a poca gente le gusta mojarse con su bici tan chula. Pero ¿qué pasó con asomarse a la ventana para ver qué tiempo hace de verdad? Una mirada rápida le habría mostrado a cualquiera que había condiciones perfectas para salir. ¿Tomas decisiones según la app del tiempo?

¿Qué es la inteligencia artificial (IA)?

Aunque últimamente ha vuelto a subir puestos en el “bingo de palabras de moda”, los conceptos de inteligencia artificial y aprendizaje automático no son nada nuevos. La idea de usar el aprendizaje para convertir un sistema sencillo en uno con inteligencia de nivel humano se remonta al menos a la noción de “máquina niño” de Alan Turing en 1950. En lugar de intentar producir un programa que simule la mente adulta, ¿por qué no intentar producir uno que simule la mente de un niño? Si luego se le somete a un curso de educación adecuado, se obtendría el cerebro adulto.

En su libro “Superintelligence”, Nick Bostrom explora a fondo los posibles caminos hacia la creación de una inteligencia artificial. ¿Qué pasa cuando las máquinas superan a los humanos en inteligencia general? ¿Nos salvarán o nos destruirán los agentes artificiales? Hasta Elon Musk coincide conmigo en que todo el mundo debería leer este libro.

Aunque el consenso general es que todavía no existe una verdadera inteligencia artificial general, yo diría que la sociedad en su conjunto se está alineando a la perfección para que una IA tome el control. La metáfora de la rana hervida es una forma potente de pensarlo: la rana no percibe el peligro del agua que se calienta poco a poco hasta hervir. No deberíamos dejar que nadie nos cueza, ¡y menos una IA!

Ejemplos del control de los ordenadores hoy

Mientras disfrutaba del carril bici vacío esta mañana, se me ocurrió que la app del tiempo no es la única que controla el comportamiento de la gente. Piensa en estos ejemplos:

• dónde vive la gente: es fácil entender por qué las entidades financieras quieren evaluar el riesgo de prestarle dinero a alguien, pero los ordenadores de hoy, al calcular tu puntuación crediticia, controlan indirectamente cosas como qué casa puedes comprar, dónde vas a vivir o a qué colegio irán tus hijos. El aprendizaje automático es un tema candente en el negocio del dinero y, sin que mucha gente lo sepa, esos algoritmos no miran solo tus datos financieros. Una de las empresas líderes mundiales en evaluación crediticia, GDS Link, lo cuenta con franqueza: el historial de pagos del prestatario es esencial, pero aun así solo supone algo más de un tercio de la puntuación crediticia.
• alertas meteorológicas: a tu app del tiempo le dan envidia las alertas meteorológicas por el poder que tienen sobre la sociedad: países enteros pueden paralizarse porque el ordenador del tiempo indica “código rojo”. Todo el mundo entiende los motivos evidentes de seguridad. Pero uno podría preguntarse cuánto sufrimiento humano se causa en realidad al cancelar vacaciones, cortar carreteras, detener trenes, cerrar colegios y limitar los servicios de los hospitales.
• lo que ve la gente: la reproducción automática de la web de vídeos favorita de todos usa algoritmos para decidir cuál es tu siguiente vídeo. Aunque decidas a propósito ver un vídeo concreto, luego te presentan automáticamente otra cosa. Lo mismo ocurre con apps populares como TikTok e Instagram.
• lo que oye la gente: no pienses que la función aleatoria de tu iPod o de la app de Spotify es de verdad aleatoria. Esta explicación del exingeniero de Spotify Mattias Petter Johansson es una lectura interesante.
• lo que lee la gente: Elon Musk entiende por qué es importante hacer públicos los algoritmos de los feeds de noticias, como el de Twitter, ¡porque determina lo que lee la gente! Pero como no todo el mundo entiende de código, creo que solo sería una parte de la solución.

Conclusión

La nueva tecnología siempre asusta a la gente. Cuando aparecieron las primeras bicicletas, ¡la gente les echaba la culpa de casi todo! Sin embargo, hoy están integradas en nuestras vidas de una forma bastante razonable. La gente conoce los riesgos y muchos actúan en consecuencia. Los cascos y las luces de bici son de lo más habitual. Con el tiempo espero lo mismo de la toma de decisiones informatizada: aprenderemos a convivir con ella de buena manera.

Mientras tanto, deberíamos seguir siendo curiosos y disfrutar de las maravillas modernas de la tecnología, como el impresionante sistema de IA DALL-E, capaz de crear imágenes y arte originales y realistas. Trabajé con él para crear las ilustraciones de este artículo del blog. El debate que ha empezado hace poco sobre quién es el dueño de las obras generadas no me sorprende en absoluto. ¡Los responsables políticos harían bien en no ignorar las grandes cuestiones que rodean a la inteligencia artificial!