Les questions et les enjeux
voir le livre La terreur et le sublime pour une analyse en profondeur
Le défi le plus grand auquel nous faisons face est d’abord et avant tout un défi humain. Oui, la technologie change la culture, mais ce qu’elle fait, ultimement, c’est de la révéler, de l’amplifier, et de la multiplier. La technologie est une caisse de résonance de l’humanité. Les défis qu’elle multiplie sont les nôtres.
Prendre acte de la singularité technologique
L’humain
Est-il encore possible aujourd’hui de parler d’être humain, quand tout ce que nous vivons, expérimentons, ressentons et aimons est filtré par des machines?
L’éthique
Comment développer une nouvelle éthique, une nouvelle compassion, et une justice sociale dans un monde filtré par les technologies?
Comment introduirons-nous dans ce potentiel technologique extraordinaire les valeurs qui nous sont chères et comment nous assurerons-nous que ces technologies amplifient le potentiel humain ?
Comment programmer le dilemme du tramway afin qu’une voiture autonome puisse prendre une telle décision, et ce en une fraction de seconde ? qui programmera cette décision, et selon quels critères ? Comment automatiser le triage de la vie humaine et ainsi créer un modèle de classification des êtres humains?
Comment accepter le déterminisme de la programmation informatique lorsqu’elle met la vie d’êtres humains en jeu ? Comment faire la paix avec une éthique prédéterminée qui a, au préalable, évalué et classifié la valeur des vies humaines?
Comment accepter que la décision morale que prendra une voiture autonome se soit bâtie au fur et à mesure d’« expériences » vécues par l’intelligence artificielle et que les raisonnements à la base de cette décision demeurent opaques?
Comment penser les droits humains lorsque les décisions sur comment s’appliquent ces droits seront prises par des machines?
La société
Comment créer une société équilibrée lorsque les décisions prises par nombre de systèmes intelligents nous sembleront aussi opaques, et parfois plus étranges, que peut l’être une décision humaine?
Comment créer une société démocratique lorsque des outils de prévisibilités, de contrôle et de manipulations d’une extraordinaire efficacité, et dont la séduction est souvent invisible, nous offrent une sécurité et une insécurité accrues, fondées sur la suppression de notre autonomie?
Comment repenser l’économie du partage et de la dématérialisation? Les impôts des sociétés ? Comment recréer le système de santé ? Retracer les limites de la vie privée et de l’individualité ? Réinventer le travail, le chômage, le filet social?
Comment nourrir les 10 milliards d’humains qui peupleront bientôt cette planète, tout en protégeant l’équilibre, la variété et la beauté de la vie ? Nous avons créé l’anthropocène, comment en faire un âge de la vie?
L’éducation
Que sont l’éducation, la pédagogie, la socialisation à la frontière de la révolution technologique?
Comment poserons-nous les bases d’une maturation psychologique et sensible lorsque les algorithmes feront acte de miroir dans lequel nous paraîtrons sans vice, sans faille, sans imperfections, un miroir dans lequel notre reflet sera toujours imprégné de cette lumière sans fin de nos fantasmes et de notre narcissisme?
Comment éduquer et socialiser les algorithmes?
Comment créer des environnements éducatifs et technologiques émouvants et sensibles?