L'ordinateur dit non

Résumé

Ce matin, j'ai savouré ma balade à vélo sur une piste cyclable presque vide, avec des rayons de soleil parfaits qui éclairaient la rosée au-dessus des champs autour de moi. Où étaient passés tous les autres cyclistes ? Je soupçonne que ça a un lien avec les applis météo populaires. Ça me frappe de voir à quel point les ordinateurs contrôlent déjà la vie des gens.

Texte intégral

Apparemment, il y avait un risque de pluie ce matin, d'après l'appli météo de l'iPhone. Je n'ai pas croisé une seule goutte, mais ce minuscule nuage de pluie sur le téléphone a fait sortir moins de monde.

Bien sûr, je comprends : peu de gens aiment se faire mouiller sur leur beau vélo. Mais qu'est devenu le réflexe de regarder par la fenêtre pour voir le temps qu'il fait vraiment ? Un simple coup d'œil aurait montré à n'importe qui des conditions parfaites pour rouler. Est-ce que tu prends tes décisions d'après l'appli météo ?

Qu'est-ce que l'intelligence artificielle (IA) ?

Malgré sa récente renaissance dans les rangs du « bingo du jargon », les concepts d'intelligence artificielle et d'apprentissage automatique ne sont pas si nouveaux. L'idée d'utiliser l'apprentissage pour amener un système plus simple à une intelligence de niveau humain remonte au moins à la notion de « machine enfant » d'Alan Turing en 1950. Au lieu d'essayer de produire un programme qui simule l'esprit adulte, pourquoi ne pas plutôt essayer d'en produire un qui simule celui de l'enfant ? Soumis ensuite à une éducation appropriée, on obtiendrait le cerveau adulte.

Dans son livre « Superintelligence », Nick Bostrom explore à fond les chemins possibles vers la création d'une intelligence artificielle. Que se passe-t-il quand les machines dépassent les humains en intelligence générale ? Les agents artificiels vont-ils nous sauver ou nous détruire ? Même Elon Musk pense comme moi que tout le monde devrait lire ce livre.

Même si le consensus général est qu'une véritable intelligence artificielle générale n'existe pas encore, je dirais que la société dans son ensemble se met parfaitement en place pour qu'une IA prenne le contrôle. La métaphore de la grenouille qu'on ébouillante est une bonne façon d'y réfléchir : la grenouille ne perçoit pas le danger d'une eau portée lentement à ébullition. Nous ne devrions laisser personne nous faire cuire, et encore moins une IA !

Exemples du contrôle des ordinateurs aujourd'hui

En profitant de la piste cyclable vide ce matin, j'ai réalisé que l'appli météo n'est pas la seule à contrôler le comportement des gens. Prends les exemples suivants :

• où les gens vivent : on comprend facilement pourquoi les institutions financières veulent évaluer le risque de prêter de l'argent à quelqu'un, mais les ordinateurs d'aujourd'hui, en calculant ta cote de crédit, contrôlent indirectement des choses comme la maison que tu peux acheter, l'endroit où tu vivras, l'école où iront tes enfants. L'apprentissage automatique est un sujet brûlant dans le monde de l'argent et, sans que beaucoup de gens le sachent, ces algorithmes ne regardent pas que tes données financières. L'un des leaders mondiaux de l'évaluation de crédit, GDS Link, est franc là-dessus : les antécédents de paiement d'un emprunteur sont essentiels, mais ils ne représentent quand même qu'un peu plus d'un tiers de la note de crédit.
• les alertes météo : ton appli météo est jalouse du pouvoir des alertes météo sur la société : des pays entiers peuvent être mis à l'arrêt parce que l'ordinateur météo indique « code rouge ». Tout le monde comprend les raisons évidentes de sécurité. Mais on peut se demander combien de souffrance humaine est en fait causée par les vacances annulées, les routes fermées, les trains arrêtés, les écoles closes et les services hospitaliers limités.
• ce que les gens voient : la lecture automatique sur le site de vidéos préféré de tout le monde utilise des algorithmes pour choisir ta prochaine vidéo. Même si tu décides délibérément de regarder une vidéo précise, on te propose ensuite automatiquement autre chose. Pareil pour des applis populaires comme TikTok et Instagram.
• ce que les gens entendent : ne crois pas que la lecture aléatoire de ton iPod ou de l'appli Spotify soit vraiment aléatoire. Cette explication de Mattias Petter Johansson, ancien ingénieur de Spotify, est une lecture intéressante.
• ce que les gens lisent : Elon Musk comprend pourquoi il est important de rendre publics les algorithmes de fil d'actualité comme celui de Twitter, parce qu'ils déterminent ce que les gens lisent ! Mais comme tout le monde ne comprend pas le code, je pense que ce ne serait qu'une partie de la solution.

Conclusion

Les nouvelles technologies font toujours peur. Quand les premiers vélos sont apparus, les gens leur ont reproché à peu près tout ! Pourtant, ils sont aujourd'hui intégrés dans nos vies de façon plutôt raisonnable. Les gens connaissent les risques et beaucoup agissent en conséquence. Les casques et les lumières de vélo sont très courants. À terme, je m'attends à la même chose pour la prise de décision informatisée : nous apprendrons à composer avec elle de la bonne manière.

En attendant, nous devrions rester activement curieux et profiter des merveilles modernes de la technologie, comme l'incroyable système d'IA DALL-E, capable de créer des images et des œuvres originales et réalistes. J'ai travaillé avec lui pour créer l'illustration qui accompagne cet article de blog. Le débat récemment lancé sur la propriété des œuvres générées ne me surprend pas du tout. Les décideurs politiques feraient bien de ne pas ignorer les grandes questions autour de l'intelligence artificielle !